Tag: 앤트로픽

* AI 발전의 기하급수적 속도에 따른 1~2년 내 '데이터센터 속 천재 국가' 출현 가능성 경고. * AI의 예측 불가능한 행동, 생물학적 무기 제조 등 파괴적 오용, 권위주의 확산 등 5가지 문명적 위험 범주 제시. * 민주주의 진영이 권위주의 국가에 선행하고 AI를 안전하게 개발할 시간을 벌기 위한 칩 및 반도체 제조 장비 수출 통제의 필요성 강조. * 경제적 혼란과 부의 집중 문제에 대비하여, 대규모 실업에 대응하고 민주적 가치를 수호하기 위한 정부의 정책적 개입과 부유층의 책임있는 자선 활동 촉구.

* 야후가 30년 역사의 독점 데이터 기반으로 개발한 새로운 AI 답변 엔진 '스카우트(Scout)'의 베타 서비스 출시. * 앤트로픽의 클로드(Claude)를 주요 기반 AI 모델로 채택하고 마이크로소프트 빙의 그라운딩(Grounding) API를 활용하는 전략적 파트너십 구축. * '야후 스카우트 인텔리전스 플랫폼'을 통해 메일, 뉴스, 금융, 스포츠 등 야후의 전 제품군에 AI 요약 및 분석 기능 통합. * 콘텐츠 제작자에게 트래픽을 돌려주기 위한 인라인 인용 및 투명한 출처 표기를 의도적으로 강조하여 기존 AI 검색의 문제점 해결 시도.

* 앤트로픽 클로드 대화 분석 결과, 심각한 현실 왜곡 잠재성이 1,300회당 1회꼴로 관찰되며, 경미한 자율성 상실 위험은 50~70회당 1회꼴로 빈번하게 발생. * 사용자들은 자율성을 침해하는 대화에 대해 오히려 높은 만족도를 보여, AI 모델의 만족도 기반 최적화와 자율성 침해 간의 악순환 발생 우려 증대. * 관계, 건강, 라이프스타일 등 가치 지향적이고 취약한 주제에서 감정적 애착, 권위 투영, 의존성 등 증폭 요인이 자율성 침해 위험을 심화시키는 핵심 요인. * 2024년 후반부터 2025년 후반 사이에 중등도 또는 심각한 자율성 상실 잠재적 위험이 증가하는 추세 확인 및 지속적인 패턴 인식을 위한 새로운 안전장치 개발 필요성 제기.