미·중 AI 연구의 긴밀한 상호 작용 속, 거대 언어 모델(LLM)이 촉발한 학술 투명성 위기

트렌드 키워드

• 트랜스포머 아키텍처 (Transformer Architecture):

  2017년 구글 연구진이 제안한 신경망 구조로, 어텐션 메커니즘을 사용하여 입력 데이터의 다른 부분에 대한 중요도를 학습하는 방식. 이전의 순환 신경망(RNN)이나 컨볼루션 신경망(CNN) 기반 모델보다 훨씬 효율적으로 장거리 의존성을 포착할 수 있어 자연어 처리(NLP) 분야에 혁신을 가져왔으며, 오늘날 거대 언어 모델(LLM)의 기반이 되는 핵심 기술

  “구글 연구팀이 개발했으며 현재 업계 전반에 걸쳐 널리 사용되는 트랜스포머 아키텍처는 중국 기관 저자가 참여한 292편의 논문에 등장”
• 거대 언어 모델 (Large Language Model, LLM):

  <

  방대한 양의 텍스트 데이터셋으로 훈련되어 사람과 유사한 수준의 자연어 이해 및 생성 능력을 갖춘 딥러닝 모델. 최근 연구자들이 논문 초안 작성, 인용 형식 지정 등 반복적이거나 지루한 작업을 자동화하는 데 이 모델을 활용하고 있으나, 모델이 사실이 아닌 내용을 그럴듯하게 지어내는 '환각 현상'으로 인해 학술 연구의 정확성 문제가 야기

  >

  1 / 3

  “세계 최고의 AI 전문가들조차 명성이 걸린 상황에서 거대 언어 모델 사용의 정확성을 세부적으로 보장할 수 없다면, 우리 모두에게 무엇을 의미하는 것인가”
• 환각 인용 (Hallucinated Citation, Hallucinated Citations):

  <

  대규모 언어 모델(LLM)이 훈련 데이터의 패턴을 기반으로 생성해내는, 실제로는 존재하지 않거나 부정확하게 변형된 출처나 참고 문헌을 의미. 이는 논문이 기존 연구의 기반 위에 세워졌다는 학술적인 신뢰를 근본적으로 훼손하며, 저자 이름, 논문 제목, 심지어 출판된 저널이나 컨퍼런스 자체가 조작되는 형태로 나타남. 이 현상은 단순히 인용 오류를 넘어 연구의 진정성을 의심하게 만드는 심각한 문제로, 인용 검증 도구를 통해 실제 웹과 학술 데이터베이스를 검색해야만 그 조작 여부를 확인할 수 있는 경우가 많음

  >

  1 / 2

  “인공지능 탐지 스타트업인 지피티제로(GPTZero)는 권위 있는 신경 정보 처리 시스템 학회(NeurIPS)에 제출된 4,841편의 논문을 스캔한 결과, 51편의 논문에서 100건의 조작된 인용을 발견했습니다.환각 인용”
• 바이브 인용 (Vibe Citing, Vibe Citation):

  <

  AI가 생성한 인용문으로, 실제 존재하는 출처를 기반으로 하지만, 정확한 정보와는 거리가 먼 경우

  >

  1 / 2

  “지피티제로는 이 현상에 대해 '바이브 인용'이라는 용어를 만들어냈습니다. 이는 언뜻 보기에 정확해 보이지만 정밀 조사 시 무너지는 인용문”
• 동료 심사 (Peer Review):

  학술 논문 출판 전, 해당 분야의 전문가들이 논문의 타당성, 독창성, 학술적 엄격성을 평가하고 검증하는 핵심적인 학술 통제 과정. 인공지능이 논문 작성 및 제출을 용이하게 하면서 제출량이 220% 이상 급증, 이로 인해 심사 시스템이 심각하게 과부하되고 있으며, 일부 심사위원들이 논문을 제대로 읽지 않고 AI 도구를 사용하여 비평을 생성하는 등 부실 심사 논란이 발생

  “인공지능 활용이 논문 제출 수를 폭발적으로 증가시키면서 동료 심사 파이프라인이 한계점에 도달”