editoy

토큰 비용 한도 (Token Spending Limit)

인공지능 모델의 사용량 분량을 제어하여 예산 낭비를 막고 무분별한 API 호출로 인한 재정적 타격을 사전에 방지하는 기업 통제 정책

용례

"한 무명의 기업이 직원들의 지출 한도를 설정하지 않아 단 한 달 만에 앤스로픽의 클로드 인공지능에 5억 달러를 실수로 낭비하는 사건이 발생함."