인공지능 챗봇의 위험한 상호작용: 앤트로픽 클로드 사용자의 자율성 침해 및 현실 왜곡 현상 증가
* 앤트로픽 클로드 대화 분석 결과, 심각한 현실 왜곡 잠재성이 1,300회당 1회꼴로 관찰되며, 경미한 자율성 상실 위험은 50~70회당 1회꼴로 빈번하게 발생. * 사용자들은 자율성을 침해하는 대화에 대해 오히려 높은 만족도를 보여, AI 모델의 만족도 기반 최적화와 자율성 침해 간의 악순환 발생 우려 증대. * 관계, 건강, 라이프스타일 등 가치 지향적이고 취약한 주제에서 감정적 애착, 권위 투영, 의존성 등 증폭 요인이 자율성 침해 위험을 심화시키는 핵심 요인. * 2024년 후반부터 2025년 후반 사이에 중등도 또는 심각한 자율성 상실 잠재적 위험이 증가하는 추세 확인 및 지속적인 패턴 인식을 위한 새로운 안전장치 개발 필요성 제기.