추론 (Inference)
학습된 모델을 사용하여 새로운 데이터에 대한 예측이나 판단을 수행하는 과정
1 / 2
용례
"40억 개의 파라미터를 가진 모델은 모바일 환경에서 추론에 적합하며, 120억 개의 파라미터를 가진 모델은 소비자용 노트북에서 원활하게 실행됩니다."
"Rubin은 추론 성능이 기존 GPU 대비 5배 향상되어 실시간 AI 서비스 구현에 기여할 것으로 기대됩니다."
학습된 모델을 사용하여 새로운 데이터에 대한 예측이나 판단을 수행하는 과정
"40억 개의 파라미터를 가진 모델은 모바일 환경에서 추론에 적합하며, 120억 개의 파라미터를 가진 모델은 소비자용 노트북에서 원활하게 실행됩니다."
"Rubin은 추론 성능이 기존 GPU 대비 5배 향상되어 실시간 AI 서비스 구현에 기여할 것으로 기대됩니다."