인퍼런스 비용 (Inference Cost)

인공지능 모델이 사용자 요청을 처리하기 위해 서버 자원을 소모하며 계산을 수행할 때 발생하는 운영 및 전력 비용

용례

"지금까지 깃허브는 급증하는 추론 비용의 상당 부분을 자체적으로 흡수해 왔으나, 현재의 고정 요청 모델은 더 이상 사업적으로 지속 가능하지 않은 수준에 도달했습니다."