Tag: AI리스크

* 앤스로픽의 콘텐츠 관리 시스템(CMS) 설정 오류로 인해 미출시 차세대 AI 모델 및 내부 기밀 데이터 대거 노출. * 차세대 모델 '클로드 미토스'의 압도적인 사이버 보안 공격 능력이 기존 방어 체계를 무력화할 수 있다는 공포 확산. * 클라우드스트라이크, 팔로알토 네트웍스 등 주요 사이버 보안 기업들의 주가가 4~9%대 수준으로 일제히 폭락. * 고성능 AI가 해킹 도구로 악용될 가능성에 따라 보안 인프라 현대화 및 관련 비용 증가에 대한 시장의 우려 제기.

* 마이크로소프트 코파일럿 이용 약관 내 '단순 오락용' 명시 및 법적 책임 회피 확인. * 기업용 유료 서비스 마케팅 방향과 실제 법적 면책 조항 사이의 심각한 불일치 발생. * 생성형 AI의 환각 현상 및 저작권 침해 가능성에 대한 모든 책임을 사용자에게 전가. * 자동화 편향에 따른 무비판적 수용 위험성 경고 및 인간의 최종 검토 절차 필수화.

* Mythos 5보다 강력한 내부 모델 'Model 2'의 존재 확인 및 외부 공개 계획 없음 * 사이버 보안 사고 등을 이유로 고위험 상황에서의 정렬 불일치 위험도를 '매우 낮음'에서 '낮음'으로 상향 * 자동화된 연구 및 개발(R&D) 능력의 가속화 징후 포착 및 오용 가능성 경고 * 모델 성능 향상 속도가 기존 평가 체계를 상회하여 리스크 측정의 불확실성 증가