editoy

매개변수 지식 (Parametric Knowledge)

대규모 사전 학습 과정 동안 모델의 가중치(Weights)에 압축되어 저장되는 고정된 형태의 정보. 모델이 추론 시 주로 이 정적이고 내부적인 기억을 회상하여 기능을 수행하며, 이는 실시간으로 제공되는 새로운 문맥을 흡수하는 능력과 대비되는 개념

용례

"그들은 대규모 사전 훈련 실행 과정에서 가중치에 압축된 정보인 매개변수 지식에 주로 의존합니다."