인간 개입 원칙 (Human-in-the-Loop)
인공지능이 판단을 내리는 과정 중 특히 생사와 직결된 중요한 결정 단계에서는 반드시 인간이 최종적인 확인과 승인을 거치도록 설계하는 보안 및 윤리 체계. 인공지능의 오류나 폭주를 막기 위한 필수적인 안전장치로 간주
용례
"인공지능 업계 종사자들은 국방부의 요구에 맞서 인간의 감독 없이 살상이 이루어지는 기술 도입을 거부하며 인류 공동의 안전을 지켜야 한다고 주장하고 있습니다."
인공지능이 판단을 내리는 과정 중 특히 생사와 직결된 중요한 결정 단계에서는 반드시 인간이 최종적인 확인과 승인을 거치도록 설계하는 보안 및 윤리 체계. 인공지능의 오류나 폭주를 막기 위한 필수적인 안전장치로 간주
"인공지능 업계 종사자들은 국방부의 요구에 맞서 인간의 감독 없이 살상이 이루어지는 기술 도입을 거부하며 인류 공동의 안전을 지켜야 한다고 주장하고 있습니다."