GPT-5.2, 엘론 머스크의 AI 백과사전 '그로키피디아' 인용으로 정보 신뢰성 및 오염 위험 증폭

트렌드 키워드

• 대규모 언어 모델 (LLM, Large Language Model):

  <

  방대한 양의 텍스트 데이터를 학습하여 인간의 언어를 이해하고 생성하는 능력을 갖춘 인공지능 모델. 자연어 처리(NLP) 분야에서 혁신을 일으키며 텍스트 생성, 번역, 요약 등 광범위한 응용 분야에서 활용되는 기초 기술이며, 특히 규모의 경제를 통해 성능을 향상시키는 것이 특징

  >

  1 / 13

  “지피티-5.2가 그로키피디아를 인용한 것은 이 모델만이 아닌, 앤트로픽의 클로드와 같은 다른 대규모 언어 모델도 유사한 문제를 겪고 있음을 보여줍니다.”
• 그로키피디아 (Grokipedia):

  엘론 머스크의 xAI가 위키피디아를 대체할 목적으로 2023년 10월에 출시한 온라인 백과사전 플랫폼으로, 콘텐츠가 전적으로 인공지능 모델에 의해 생성된다는 특징 보유. 이 플랫폼은 직접적인 인간 편집을 허용하지 않으며, 성 소수자 문제나 1월 6일 미국 국회의사당 폭동 사건 등 민감한 주제에 대해 극우적 서사를 전파한다는 비판을 받고 있음

  “최신 챗지피티 모델은 엘론 머스크의 그로키피디아를 광범위한 질문에 대한 출처로 인용하기 시작했습니다.”
• 신뢰성 세탁 (Credibility Laundering):

  인공지능 챗봇과 같은 공신력 있는 시스템이 본질적으로 신뢰도가 낮거나 편향된 정보를 출처로 인용할 경우, 사용자들이 해당 출처를 마치 검증되고 신뢰할 만한 정보원인 것처럼 오인하게 만들어주는 사회적 현상. 이는 저신뢰 정보원의 정당성을 역설적으로 강화시키는 결과 초래

  “연구자들은 '오, 챗지피티가 이를 인용하고, 이 모델들이 인용하니 분명 괜찮은 출처일 것이다. 틀림없이 검증했을 것이다'라고 말하며 정보를 찾아볼 수 있는 신뢰성 세탁에 대해 경고했습니다.”
• LLM 그루밍 (LLM Grooming):

  대규모 언어 모델의 학습 데이터나 정보 출처 생태계를 의도적으로 오염시키기 위해, 악의적인 행위자들이 대량의 허위 정보(디스인포메이션)를 계획적으로 생성하고 유포하는 행위. 이 과정을 통해 AI 모델은 부정확하거나 편향된 정보를 학습하거나 인용하도록 조작될 수 있음

  “지난해 보안 전문가들은 러시아 선전 네트워크 등 악의적인 행위자들이 LLM 그루밍이라는 과정을 통해 대규모의 허위 정보를 쏟아내고 AI 모델에 거짓말을 심고 있다고 우려했습니다.”
• 모델 붕괴 (Model Collapse):

  <

  인공지능 모델이 스스로 생성한 데이터나 다른 AI가 생성한 데이터를 다시 학습하는 순환 구조에 빠지면서, 시간이 지남에 따라 학습 데이터의 품질이 저하되고 궁극적으로 모델의 성능과 정확도가 떨어지는 현상. AI 생성 콘텐츠를 AI가 다시 인용할 경우 발생할 수 있는 장기적인 위험 요소

  >

  1 / 2

  “일부 전문가들은 AI가 AI가 생성한 데이터로 학습하는 것이 품질을 저하시키고 ‘모델 붕괴’라는 현상을 초래할 수 있다고 주장했습니다.”