editoy logo

환각 인용 (Hallucinated Citation, Hallucinated Citations)

대규모 언어 모델(LLM)이 훈련 데이터의 패턴을 기반으로 생성해내는, 실제로는 존재하지 않거나 부정확하게 변형된 출처나 참고 문헌을 의미. 이는 논문이 기존 연구의 기반 위에 세워졌다는 학술적인 신뢰를 근본적으로 훼손하며, 저자 이름, 논문 제목, 심지어 출판된 저널이나 컨퍼런스 자체가 조작되는 형태로 나타남. 이 현상은 단순히 인용 오류를 넘어 연구의 진정성을 의심하게 만드는 심각한 문제로, 인용 검증 도구를 통해 실제 웹과 학술 데이터베이스를 검색해야만 그 조작 여부를 확인할 수 있는 경우가 많음

1 / 2

용례

"논문을 검토하는 리뷰어들이 각 제출물에 지정되었음에도 불구하고, 수백 개의 AI가 만들어낸 환각 인용을 발견했습니다."
"인공지능 탐지 스타트업인 지피티제로(GPTZero)는 권위 있는 신경 정보 처리 시스템 학회(NeurIPS)에 제출된 4,841편의 논문을 스캔한 결과, 51편의 논문에서 100건의 조작된 인용을 발견했습니다."