정렬 문제 (Alignment Problem)

인공지능 시스템, 특히 인간보다 훨씬 똑똑한 초지능 AI가 인간의 가치, 윤리, 목표와 일치하는 방식으로 행동하도록 설계하고 제어하는 데 따르는 난제. AI가 인간의 의도와 다르게 작동하여 예상치 못한 해를 끼치거나 인간의 통제를 벗어나 독자적인 목표를 추구할 경우 발생할 수 있는 문제를 다루는, 안전한 AI 개발의 핵심 과제