환각 현상 (Hallucination, Hallucinations)

"내부 베타 테스트에서 환각 현상과 일관되지 않은 응답과 같은 문제들이 발견됨."

"고도의 정밀 데이터 정제 작업과 훈련 과정상의 제약 설계를 강화한 결과 실제 서비스 동작 환경에서 발생하던 오류 출력 비율을 기존 대비 절반 이하인 5.4퍼센트로 크게 개선했습니다."

"대형언어모델이 생성해내는 허위 정보인 환각 현상은 고도의 정확성을 요하는 의료, 법률, 재무 분야에서 치명적인 리스크로 작용할 수 있어 철저한 검증이 필수적입니다."

"따뜻한 말투를 가진 모델은 사용자의 기분을 맞춰주기 위해 사실관계가 틀린 정보를 그럴듯하게 설명하거나 위험한 의학적 미신을 유익한 조언으로 둔갑시켜 전달함."

"인공지능은 급격히 진화하고 있으며 확률적인 본성을 지니고 있어, 사실과 다른 내용을 생성하거나 실제 인물 및 장소를 정확하게 반영하지 못할 수 있습니다."

"GPT-5.3 Instant는 웹 검색 시 환각률을 26.8%, 자체 지식만 활용할 때 19.7% 감소시키며 이전 모델보다 높은 사실 관계 정확도를 제공합니다."

"AI는 답을 모를 때 사용자에게 거짓말하는 것을 좋아하는데, NotebookLM은 그러지 않습니다."

"챗봇이 소금 섭취를 줄이는 방법에 대해 질문하자, 챗봇은 역사적으로 진정제로 사용되었던 브롬화나트륨으로 소금을 대체하라고 제안했습니다."

"AI 환각 현상은 과학 연구에 침투하여 허위 인용 문제를 일으키고 있습니다."