지식 증류 (Distillation, Knowledge Distillation)
고성능 대형 모델에 대량의 질문을 주입하여 얻은 답변을 토대로 훨씬 저렴하고 가벼운 인공지능 모델을 효율적으로 고속 학습시키는 우회 기술적 방법
1 / 4
용례
"지식 증류는 첨단 인공지능 모델이 생성해 낸 다량의 출력물을 수집해 다른 모델을 개발하는 데 사용하는 기술적 과정으로, 원천 모델을 밑바닥부터 만드는 데 드는 막대한 비용의 아주 작은 일부만으로도 매우 유사한 고성능 모델을 신속하게 구현하는 방식성 대안."
"상대 모델의 출력을 학습에 이용하는 공격적인 전략"
"딥시크는 기존 선도 모델들의 데이터를 활용하는 증류 방식을 통해 연구 개발 비용을 최소화하면서도 세계 최고 수준의 성능을 구현하는 데 성공했습니다."
"지식 증류는 모든 플래시 모델 혁신의 원동력이며, 가장 뛰어난 최신 모델을 보유해야만 이를 활용해 가장 우수한 소형 모델을 만들어낼 수 있음."