마이크로소프트 코파일럿 이용 약관 논란과 AI 신뢰성 문제

트렌드 키워드

• 할루시네이션 (환각 현상, Hallucination):

  <

  인공지능이 사실이 아닌 정보를 마치 사실인 것처럼 그럴싸하게 생성하는 환각 현상

  >

  1 / 4

  “인공지능은 빠르게 진화하고 있으며 확률적인 성격을 띠고 있어 때때로 환각이 포함된 결과물을 생성할 수 있음.할루시네이션”
• 자동화 편향 (Automation Bias):

  <

  인간이 기계가 생성한 결과물을 과도하게 신뢰하여 이에 상충하는 실제 데이터를 무시하는 경향

  >

  1 / 2

  “인간은 기계가 생성한 결과를 선호하고 이에 반하는 데이터를 무시하는 자동화 편향에 취약함.”
• 레거시 언어 :

  시스템이나 문서에서 최신 상태로 업데이트되지 않고 과거의 표현이 그대로 남겨진 상태

  “오락 목적이라는 표현은 코파일럿이 처음에 빙의 검색 동반 서비스로 출시되었을 때의 구버전 문구임.레거시 언어”
• 확률적 특성 :

  정해진 정답을 출력하는 것이 아니라 학습된 데이터를 바탕으로 가장 가능성 높은 답변을 예측하여 생성하는 방식

  “인공지능은 확률적인 성격을 띠고 있어 때때로 실제 인물, 장소 또는 사실을 정확하게 반영하지 못할 수 있음.확률적 특성”
• 교차 검증 :

  AI가 제공한 정보의 진위 여부를 확인하기 위해 다른 신뢰할 수 있는 출처와 대조하는 과정

  “생성형 AI는 유용한 도구이지만 오류에 대한 책임이 없으므로 사용자는 항상 결과를 의심하고 재확인해야 함.교차 검증”