다중 토큰 예측 (Multi-Token Prediction)
언어 모델이 문장을 생성할 때 다음에 올 한 단어씩 예측하는 대신 미래에 등장할 복수의 연속 단어들을 동시에 예측해 출력 속도를 획기적으로 향상시키는 고급 학습 기법
용례
"속도 향상과 원활한 추론 가속화를 보장하기 위해 38억 개의 매개변수로 작동하는 특화된 예측 레이어를 내장하여 에이전트 구동 효율을 최적화했습니다."
언어 모델이 문장을 생성할 때 다음에 올 한 단어씩 예측하는 대신 미래에 등장할 복수의 연속 단어들을 동시에 예측해 출력 속도를 획기적으로 향상시키는 고급 학습 기법
"속도 향상과 원활한 추론 가속화를 보장하기 위해 38억 개의 매개변수로 작동하는 특화된 예측 레이어를 내장하여 에이전트 구동 효율을 최적화했습니다."