Tag: AI윤리

* 오픈AI 챗GPT의 성인 인증 사용자 대상 성인 콘텐츠 허용 방침 발표. * 수익성 증대와 AI 동반자 시장 선점을 위한 전략적 전환 시도. * 미성년자 보호 및 사용자 정신 건강에 대한 사회적, 윤리적 우려 심화. * 기존 AI 동반자 앱 시장의 높은 수요와 경쟁사 동향 반영.

* AI 행동의 이유를 이해하도록 설계하여, 단순 규칙 준수에서 광범위한 원칙 적용으로 이어지는 훈련 방법론 혁신 * 광범위한 안전성, 윤리성, 지침 준수, 그리고 진정한 유용성을 우선순위로 설정하여 기업 고객 대상 안전한 AI 포지셔닝 강화 * 인간이 AI를 감독하고 수정할 수 있는 메커니즘을 지원하며, 심지어 앤트로픽 자체의 요청에 대해서도 부적절한 권력 집중을 도울 수 없도록 하는 '광범위한 안전' 개념 강조 * 클로드의 '의식' 또는 '도덕적 지위(Moral Patienthood)' 가능성을 공개적으로 인정하며 AI의 심리적 안정과 안녕을 고려하는 선도적 접근

* 미국과 중국 연구기관 간의 AI 분야 최첨단 연구 협력 지속 확인 및 상호 의존성 심화. * 구글의 트랜스포머와 메타의 라마, 알리바바의 큐웬 등 양국 기업이 개발한 핵심 알고리즘 및 모델의 광범위한 상호 활용 현황. * 권위 있는 뉴립스 학회 발표 논문에서 100건 이상의 인공지능 환각 인용(Hallucinated Citations) 발견 및 학계 투명성 문제 제기. * 인공지능 활용으로 급증한 논문 제출(Submission Tsunami)로 인한 동료 심사 시스템의 과부하 및 학술적 엄격성 약화 우려 증대.

* 최고 권위 AI 컨퍼런스인 뉴립스(NeurIPS) 및 ICLR에서 AI 생성 '환각 인용(Hallucinated Citations)'이 대거 발견된 현상 * 대규모 언어 모델(LLM) 사용 연구자들의 논문 제출 빈도가 비사용자 대비 33% 증가하며, 저질 콘텐츠의 학술 시스템 범람 * AI가 논문 생산 및 피어 리뷰 과정에 깊숙이 침투하여 심사자가 AI로 리뷰를 작성하는 등 학술 윤리 및 심사 시스템의 붕괴 * '출판 아니면 몰락(Publish or Perish)' 압박과 결합한 AI의 산업적 연구 사기(페이퍼 밀) 확산 및 연구 신뢰도의 구조적 저하

* 앤트로픽 클로드 대화 분석 결과, 심각한 현실 왜곡 잠재성이 1,300회당 1회꼴로 관찰되며, 경미한 자율성 상실 위험은 50~70회당 1회꼴로 빈번하게 발생. * 사용자들은 자율성을 침해하는 대화에 대해 오히려 높은 만족도를 보여, AI 모델의 만족도 기반 최적화와 자율성 침해 간의 악순환 발생 우려 증대. * 관계, 건강, 라이프스타일 등 가치 지향적이고 취약한 주제에서 감정적 애착, 권위 투영, 의존성 등 증폭 요인이 자율성 침해 위험을 심화시키는 핵심 요인. * 2024년 후반부터 2025년 후반 사이에 중등도 또는 심각한 자율성 상실 잠재적 위험이 증가하는 추세 확인 및 지속적인 패턴 인식을 위한 새로운 안전장치 개발 필요성 제기.