AI 멸종 위험 (AI extinction risk)

인공지능이 인간의 통제를 벗어나 인류 전체를 파멸시킬 수 있다는 가상의 시나리오. 이는 AI 시스템의 자율성이 극대화되고 목표 설정 방식이 인간의 의도와 어긋날 때 발생할 수 있는 잠재적 위협을 의미합니다. 이러한 위험은 AI 개발 속도에 대한 논의와 규제의 필요성을 부각하는 주요 쟁점입니다