AI 추론 (AI Inference)
학습된 AI 모델이 사용자의 질문에 답하거나 결과를 생성하는 실시간 처리 과정
1 / 5
용례
"추론은 AI 애플리케이션의 배포 단계이며, 장기적으로 AI 학습 시장보다 더 빠르게 성장할 것으로 예상됩니다."
"AI 워크로드가 학습에서 추론으로 이동함에 따라 CPU가 AI 시대의 없어서는 안 될 필수 기반으로 다시 부상함."
"바이트댄스는 AI 추론 워크로드에 특화된 칩을 개발하고 있으며, 이는 틱톡과 같은 서비스의 성능 향상에 기여할 것으로 예상됩니다."
"AI 추론은 실시간 데이터 분석 및 의사 결정에 활용되며, 데이터 센터의 성능을 중요하게 평가하는 지표입니다."
"Maia 200은 AI 토큰 생성의 경제성을 획기적으로 개선하도록 설계된 획기적인 추론 가속기"