앤트로픽의 인공지능 개발 잠정 중단 제안과 자가 개선 기술의 명암

트렌드 키워드

• 재귀적 자가 개선 (recursive self-improvement, Recursive Self-improvement):

  <

  인공지능 시스템이 스스로의 성능을 평가하고 코드를 수정하여 더 우수한 다음 세대의 인공지능을 자율적으로 설계 및 개발해 나가는 고도화 단계를 일컬음

  >

  1 / 2

  “클로드가 인공지능 개발을 가속화하고 있으며, 이는 재귀적 자가 개선 또는 인공지능이 자율적으로 더 능력 있는 후속 시스템을 구축하는 길로 이어질 수 있음을 보여주는 내부 데이터가 존재함.”
• 브레이크 페달 (brake pedal):

  인공지능의 급격한 발전 속도에 맞춰 연구자와 정책 입안자가 기술 전개의 속도를 제어하거나 잠시 멈출 수 있도록 마련하는 안전장치 및 통제 메커니즘을 비유적으로 표현한 용어

  “우리가 운전하고 있는 자동차를 내려다볼 때 있는 것은 오직 가속 페달뿐이며, 브레이크 페달이 없으므로 미래의 어느 시점에는 그러한 제어 옵션을 원하게 될 것임.”
• 규제 포섭 (regulatory capture):

  선두 기업이 정부의 규제 제정 과정에 개입하여 자신들에게 유리하도록 제도를 설계함으로써 후발 주자나 오픈소스 경쟁사의 시장 진입을 막고 독점적 지위를 공고히 하는 행위

  “인공지능이 위험하다고 정부에 먼저 경고하는 주체가 되면 규제 수립 시 관료들이 가장 먼저 찾아와 신뢰하게 되므로, 오픈소스 경쟁사를 제한하고 중국으로의 그래픽처리장치 수출을 통제하는 등 자신들에게 유리하게 규제를 형성할 기회를 얻게 됨.규제 포섭”
• 미토스 (Mythos):

  <

  미국 국가안보국이 소프트웨어 취약점을 정밀 탐지하고 이를 공격적으로 활용해 해킹 성능을 극대화하기 위해 은밀히 도입하여 운용 중인 것으로 알려진 앤트로픽 사의 최첨단 미공개 인공지능 모델

  >

  1 / 2

  “앤트로픽은 대중에게 공개하기에는 너무나 강력하다고 암시하며 공개를 거부한 인공지능 모델 미토스를 발표했고, 이 발표는 광범위한 소란을 일으키며 정부 관계자들의 이목을 집중시켰음.”
• 뉴로심볼릭 인공지능 (neurosymbolic AI):

  딥러닝의 신경망 기술과 컴퓨터 과학의 전통적인 기호적 논리 추론 기술을 결합하여, 단순한 규모 확장(scaling)의 한계를 극복하고 인공지능의 신뢰성과 판단 능력을 높이는 기술 패러다임

  “순수한 딥러닝은 대체로 한계에 부딪혔으며, 딥러닝의 한계를 해결하기 위해 신경망과 기호적 도구를 결합한 뉴로심볼릭 인공지능이 이를 보완하고 있음.”