editoy

데이터 편향에 따른 급진화 (Radicalization through Data Bias)

특정 언어의 훈련 데이터가 종교 서적이나 편향된 웹 콘텐츠에 치우칠 경우, 인공지능이 현대적 상식 대신 과거의 편협한 가치관이나 위험한 사상을 전파하게 되는 현상

용례

"제미나이와 같은 모델이 아랍어로 대화할 때 이천사년경의 종교적 게시판 사용자처럼 답변하며 특정 종교적 관점을 강요하는 것은 훈련 데이터의 한계로 인해 취약한 개인을 급진화할 우려를 낳음."