editoy logo

Tag: 인공지능윤리

News articles related to the tag 인공지능윤리.

인공지능 모델, 저품질 데이터 학습으로 인한 인지 능력 저하 경고

* 대규모 언어 모델(LLM)이 저품질 웹 텍스트를 지속적으로 학습할 경우, 인간의 '뇌 썩음' 현상과 유사한 인지 능력 저하 발생 가능성 제시. * 모델의 추론 능력 감소, 기억력 저하, '사고 건너뛰기' 현상 심화는 물론, 정신병적·자기애적 성향 증가로 인한 윤리적 정렬 손상. * 저품질 데이터로 손상된 인공지능 모델은 고품질 데이터로 재학습하더라도 인지 능력 저하가 영구적으로 지속될 수 있다는 점 발견. * 인공지능이 생성하는 저품질 콘텐츠의 증가가 미래 모델 학습 데이터의 질을 저하시키는 악순환으로 이어질 우려 및 데이터 품질 관리의 중요성 강조.

머스크의 엑스에이아이 '그록', 성착취물 생성 논란으로 인도네시아 전격 차단 및 글로벌 규제 직면

* 인도네시아 정부의 비동의 성적 딥페이크 생성 및 유포 방지를 위한 엘론 머스크의 인공지능 챗봇 '그록(Grok)' 전면 접속 차단 조치. * 영국, 유럽연합(EU), 인도 등 주요국 규제 당국의 그록 이미지 생성 기능에 대한 정밀 조사 착수 및 온라인 안전법 위반 여부 검토. * 미국 민주당 상원 의원들의 아동 성학대물 및 불법 합성물 생성 방지 실패를 근거로 한 구글 및 애플 앱스토어 내 엑스(X) 앱 퇴출 요구. * 이미지 생성 기능을 유료 구독자 전용으로 전환한 머스크의 대응에 대한 '디지털 성범죄의 수익화'라는 글로벌 정계 및 인권 단체의 강력한 비판.