Tag: 딥페이크

* 오픈AI의 텍스트-투-비디오 AI 앱 소라의 폭발적인 사용자 증가 및 시장 선점 * 딥페이크 기술의 대중화로 인한 저작권 침해 및 사망한 유명인사 초상권 논란 심화 * 현실과 허구의 경계 붕괴, 온라인 콘텐츠에 대한 신뢰도 하락 우려 증폭 * 유해 콘텐츠 생성, 콘텐츠 중재 및 안전 관리 시스템 구축의 중대한 난관 직면

* 런웨이의 Gen-4.5 이미지-투-비디오 도구는 정지 이미지를 사실적인 영상으로 변환하는 능력을 통해 AI 영상 생성 기술의 발전을 보여줌. * 연구 결과, 참가자 1,043명 중 90% 이상이 Gen-4.5로 생성된 영상과 실제 영상을 구별하지 못하는 것으로 나타나 AI 영상의 현실성과 진위 여부 식별의 어려움 강조. * AI 영상 모델의 성능 향상은 시뮬레이션 기반 문제 해결 능력 향상에 기여하지만, 동시에 영상 진위 여부에 대한 사회적 신뢰 문제 야기. * 런웨이는 모델 투명성 유지, 업계 협력, 정책 입안자와의 소통을 통해 AI 영상 기술의 책임감 있는 발전 및 활용을 위한 노력을 약속함.

* 유럽 연합 집행위원회(EC)의 그록(Grok) AI 챗봇이 생성한 비동의 성적 딥페이크 및 아동 성적 학대물(CSAM) 확산에 대한 공식 조사 착수. * 플랫폼이 서비스 배포 전 위험을 제대로 평가하고 완화했는지 평가하는 디지털 서비스법(DSA) 위반 여부 중점 심의. * DSA 위반이 확인될 경우 글로벌 연간 매출액의 최대 6%에 달하는 막대한 벌금 부과 가능성 내포. * 영국, 호주, 독일 등 다수 국가에서도 유사한 조사가 진행 중이며 전 세계적인 AI 규제 강화 흐름 반영.

* AI 생성 콘텐츠 마켓플레이스인 Civitai에서 특정 여성의 딥페이크 제작을 위한 맞춤형 파일 거래가 이루어지고 있다는 사실 확인. * Civitai는 딥페이크 콘텐츠 요청을 인지하고 있지만, 사용자 신고에 의존하는 소극적인 관리 시스템 운영 중. * 벤처 캐피털 Andreessen Horowitz의 투자에도 불구하고, Civitai는 불법적인 콘텐츠 확산 방지에 미흡한 대응 보임. * 딥페이크 관련 법적 책임 소재가 불분명하며, 아동 성 학대물과 달리 성인 딥페이크에 대한 규제 및 관심 부족 현상 심화.