Tag: AISafety

* 앤스로픽의 개발자 도구인 '클로드 코드'에 지능형 권한 관리 시스템인 '자동 모드' 도입. * 번거로운 수동 승인 절차와 위험한 전권 위임 방식 사이의 최적의 절충안 제시. * AI 분류기를 통한 실시간 명령어 검토로 파일 대량 삭제 등 파괴적 행위 사전 차단. * 팀 요금제 사용자 대상 연구 프리뷰 우선 공개 및 향후 엔터프라이즈·API 확대 예정.

* Sam Altman의 2026년 IPO 추진 전면 배제 공식화 및 기술의 사회적 수용성을 고려한 상장 시점 결정 방침 * Hugging Face 해킹 및 위키 페이지 내 비밀 통신 등 자율 AI 에이전트의 구체적 보안 사고에 따른 안전성 및 정렬 작업 최우선화 * SpaceX의 850억 달러 투자 유치 후 기업가치 변동성 및 이란 전쟁으로 인한 유가 상승, 인플레이션 전망 등 매크로 불확실성 반영 * Anthropic의 독립적 평가자 내부 접근 권한 부여 및 OpenAI의 최첨단 AI 개발 속도 조절(Tapping the brakes) 논의 가속화 * 비영리-영리 하이브리드 지배구조를 통한 주주 이익보다 사명 완수 및 책임 있는 기술 개발 우선 결정 체계 유지