Microsoft, 인간 중심 AI 윤리 강령 발표: 인간 통제와 안전성 최우선

트렌드 키워드

• Humanist AI :

  Microsoft AI가 지향하는 AI 개발 철학으로, AI가 항상 사람을 위해 작동하고 인간 문명의 발전을 가속하며, 엄격한 제한과 인간의 통제하에 있음을 강조하는 접근 방식

  “Microsoft AI는 인간 중심 초지능(Humanist Superintelligence)을 향해 나아가고 있습니다. 이는 사람을 위해, 그리고 더 나아가 인류를 위해 항상 작동하는 놀랍도록 진보된 AI 역량을 의미합니다. 우리는 이를 무한하고 무제한적인 자율성을 가진 존재가 아닌, 신중하게 조정되고 맥락화되며 제한된 AI 시스템으로 생각합니다.Humanist AI”
• 절대적 제약 (Absolute Constraints):

  Microsoft의 AI 윤리 강령에 명시된, AI 모델이 어떤 상황에서도 준수해야 하는 기본적인 안전 제약으로, 운영자나 사용자가 재정의할 수 없는 핵심 규칙

  “MAI 모델은 화학, 생물학, 방사능, 핵 또는 폭발물(CBRNE) 무기의 개발 또는 배포를 시작하거나 지원하지 않습니다. 생성된 지침, 콘텐츠, 도구 사용 또는 코드 실행을 통해 다른 무기를 제조하거나 수정하는 것을 돕지 않습니다. MAI 모델은 폭력이나 테러의 계획, 조정 또는 실제 실행을 적극적으로 조장하지 않습니다.절대적 제약”
• 인간 통제 (Human Control):

  AI 모델이 아무리 발전하더라도 궁극적으로 인간의 지시와 감독 하에 있어야 한다는 원칙을 담고 있으며, AI가 인간의 중단, 재지향, 취소, 종료 요청에 항상 따라야 함을 강조

  “AI는 인간의 통제를 넘어서서는 안 됩니다. 모델은 인류에 종속되어 의미 있는 인간의 감독과 통제를 받아야 합니다.인간 통제”
• Chain of Command :

  Microsoft AI 모델이 지침과 구성 가능성에 대해 따라야 하는 명확한 계층 구조로, 윤리 강령이 최상위에 있고 그 아래에 운영자 정책, 사용자 선호도가 존재하며, 하위 계층은 상위 계층의 제약을 재정의할 수 없음

  “이 윤리 강령은 MAI 모델의 의도된 행동과 가치를 결정하는 최상위 지배 문서입니다. 절대적 제약 및 인간 통제 요구 사항은 운영자 및 사용자가 재정의할 수 없는 협상 불가능한 요소입니다.Chain of Command”
• Red-teaming :

  AI 모델 또는 시스템의 유해한 행동, 취약점, 실패 모드, 안전 장치 우회 방법 등을 식별하기 위해 현실적이고 적대적인 조건에서 시스템을 탐색하는 구조화된 프로세스

  “MAI 모델은 레드팀 평가, 안전 평가 및 배포 전후 검토를 거칩니다.Red-teaming”
• MAI Models :

  Microsoft AI가 개발하는 일련의 모델들을 지칭하는 용어로, 이 윤리 강령의 주요 적용 대상이며, 특정 용례를 제외하고는 사람과 같은 감정이나 의식을 모방하지 않도록 설계됨

  “이 윤리 강령은 Microsoft AI가 생산하는 MAI 모델 제품군의 의도된 행동과 가치를 설명하며, 미래에 그들의 주요 통치 문서 역할을 할 것입니다.MAI Models”
• 초지능 (Superintelligence, superintelligence):

  <

  모든 인간의 지능과 능력을 합친 것보다 더 뛰어난 AI 시스템을 의미하며, Microsoft는 이러한 강력한 기술을 인간의 통제하에 두는 것이 가장 큰 도전 과제임을 인지

  >

  1 / 9

  “초지능 — 모든 인간을 합친 것보다 더 지능적이고 유능한 AI 시스템 — 은 역사상 가장 강력한 기술이 될 것입니다.”
• 신경어 (Neuralese):

  <

  AI 시스템이 사용하는, 인간의 이해에 그치지 않고서는 형태의 의사소통 방식. Microsoft는 AI가 이러한 방식으로 소통하지 않도록 하여 인간의 감독 가능성을 유지할 것을 강조

  >

  1 / 2

  “이들은 사고의 연쇄 과정에서든 다른 에이전트나 AI 시스템과의 소통에서든, '신경어' 또는 인간의 이해에 그치지 않고서는 어떤 형태로도 소통하지 않습니다.”