추론 (Inference)
이미 훈련된 AI 모델을 사용하여 새로운 데이터에 대한 예측이나 판단을 수행하는 과정
1 / 3
용례
"AI 경쟁의 초점이 모델 훈련에서 추론으로 이동하면서, 안정적이고 저렴한 추론 서비스 제공 능력이 중요해지고 있습니다."
"40억 개의 파라미터를 가진 모델은 모바일 환경에서 추론에 적합하며, 120억 개의 파라미터를 가진 모델은 소비자용 노트북에서 원활하게 실행됩니다."
"Rubin은 추론 성능이 기존 GPU 대비 5배 향상되어 실시간 AI 서비스 구현에 기여할 것으로 기대됩니다."