실존적 위험 (Existential Risk)

인류 문명의 장기적 잠재력을 영구적으로 파괴하거나 심각하게 제한할 수 있는 위험. 인공지능 분야에서는 통제 불가능한 초지능 AI가 인류의 가치와 목표에 부합하지 않는 방식으로 발전하여 인류 전체의 생존을 위협할 수 있다는 우려를 포함하며, 핵무기, 생명공학 등 대규모 위험과 함께 논의되는 개념