Moonshot AI의 Kimi K4 개발과 Nvidia GPU 확보 전략 및 미국 수출 규제 갈등

트렌드 키워드

• Kimi K3 :

  <

  2.8조 개의 파라미터를 보유한 세계 최대 규모의 오픈 웨이트 AI 모델

  >

  1 / 2

  “2.8조 개의 파라미터를 갖춘 오픈 소스 AI 시스템인 Kimi K3를 공개했다”
• Blackwell GPU :

  Nvidia의 최신 고성능 프로세서로 미국 정부가 중국 수출을 엄격히 금지한 하드웨어

  “K3 훈련에는 중국 수출이 금지된 GB300 변형 모델을 포함한 Nvidia Blackwell 프로세서가 사용되었다Blackwell GPU”
• 지식 증류 (Distillation, Knowledge Distillation):

  <

  성능이 뛰어난 거대 모델의 출력을 이용해 더 작은 모델을 학습시키는 효율화 기법

  >

  1 / 6

  “Moonshot이 K3 개발 과정에서 Anthropic의 Fable 시스템을 이용한 증류 기술을 사용했다는 혐의를 받고 있다지식 증류”
• 오픈 웨이트 (Open Weight, Open Weights, Open-weights, open-weight, Open-weight):

  <

  모델의 가중치 값을 공개하여 외부에서도 구조를 파악하고 활용할 수 있게 한 방식

  >

  1 / 12

  “가중치는 모델이 특정 개념이나 단어열에 얼마나 많은 중요도를 부여할지를 결정하는 값이다오픈 웨이트”
• 컨텍스트 윈도우 (Context Window, Context window):

  <

  AI가 한 번에 처리하고 기억할 수 있는 텍스트 데이터의 양

  >

  1 / 7

  “약 100만 토큰의 컨텍스트 윈도우를 제공하며 여러 경쟁 모델보다 경쟁력 있고 빠른 성능을 보여준다”