인공지능 환각 (AI Hallucination)
인공지능이 통계적 확률에 따라 답변을 생성하는 과정에서 사실과 다른 허위 정보를 마치 진실인 것처럼 그럴듯하게 제시하는 현상
용례
"인공지능 언어 모델은 정확한 사실관계보다 언어적 개연성을 바탕으로 답변을 생성하므로, 의료 기록 요약 시 사용자가 인지하지 못하는 치명적인 오류를 범할 위험이 존재함."
인공지능이 통계적 확률에 따라 답변을 생성하는 과정에서 사실과 다른 허위 정보를 마치 진실인 것처럼 그럴듯하게 제시하는 현상
"인공지능 언어 모델은 정확한 사실관계보다 언어적 개연성을 바탕으로 답변을 생성하므로, 의료 기록 요약 시 사용자가 인지하지 못하는 치명적인 오류를 범할 위험이 존재함."