할루시네이션 (환각 현상)
인공지능 모델이 존재하지 않는 정보를 사실인 것처럼 그럴싸하게 꾸며서 답변하는 기술적 오류. 데이터 학습 과정의 한계나 확률 기반 생성 방식의 특성 때문에 발생하며, 정보의 신뢰성을 저해하는 가장 큰 장애물 중 하나로 꼽힘
용례
"거대 언어 모델은 환각 현상을 일으키고 잘못된 답을 내놓으며, 매번 다른 답을 제시하거나 복잡한 과업을 제대로 수행하지 못하는 경우가 많음."
인공지능 모델이 존재하지 않는 정보를 사실인 것처럼 그럴싸하게 꾸며서 답변하는 기술적 오류. 데이터 학습 과정의 한계나 확률 기반 생성 방식의 특성 때문에 발생하며, 정보의 신뢰성을 저해하는 가장 큰 장애물 중 하나로 꼽힘
"거대 언어 모델은 환각 현상을 일으키고 잘못된 답을 내놓으며, 매번 다른 답을 제시하거나 복잡한 과업을 제대로 수행하지 못하는 경우가 많음."