환각 현상 (Hallucination)
거대 언어 모델(LLM)이 학습 데이터의 통계적 확률에 기반해 문장을 생성하는 과정에서, 사실이 아닌 정보를 마치 진실인 것처럼 그럴싸하게 답변하는 오류. 이번 업데이트에서는 웹 검색 결과와 인공지능의 내부 지식을 결합하는 능력을 개선하여 이 현상을 대폭 억제함
1 / 4
용례
"GPT-5.3 Instant는 웹 검색 시 환각률을 26.8%, 자체 지식만 활용할 때 19.7% 감소시키며 이전 모델보다 높은 사실 관계 정확도를 제공합니다."
"AI는 답을 모를 때 사용자에게 거짓말하는 것을 좋아하는데, NotebookLM은 그러지 않습니다."
"챗봇이 소금 섭취를 줄이는 방법에 대해 질문하자, 챗봇은 역사적으로 진정제로 사용되었던 브롬화나트륨으로 소금을 대체하라고 제안했습니다."
"AI 환각 현상은 과학 연구에 침투하여 허위 인용 문제를 일으키고 있습니다."