메타, 청소년 AI 챗봇 안전 및 부모 감독 강화 방안 발표

트렌드 키워드

• AI 챗봇 (AI Chatbot):

  인공지능 기술을 기반으로 사람과 대화하는 소프트웨어 프로그램으로, 텍스트 또는 음성 인터페이스를 통해 사용자의 질문에 응답하거나 특정 작업을 수행하도록 설계된 시스템. 고객 서비스, 정보 검색, 교육 등 다양한 분야에서 활용되며, 최근에는 사용자와의 상호작용을 통해 학습하고 발전하는 대화형 인공지능의 한 형태로 주목받는 기술

  “부모는 자녀의 메타 AI 캐릭터 챗봇과의 상호작용을 차단할 수 있을 예정입니다.AI 챗봇”
• PG-13 등급 (PG-13 Rating):

  미국 영화 등급 심의 제도 중 하나로, 13세 미만의 어린이에게는 부모의 지도가 필요한 콘텐츠임을 나타내는 등급. 폭력성, 선정성, 약물 사용 등의 요소가 포함될 수 있으나, 성인 보호자의 지도하에 청소년이 관람하기에 적절하다고 판단되는 수준. 소셜 미디어 플랫폼에서는 이 등급을 기준으로 하여 청소년 사용자가 노출될 수 있는 콘텐츠의 수위와 종류를 제한하는 내부 가이드라인으로 차용하여 적용 중인 분류 체계

  “메타는 청소년을 위한 AI 경험에 PG-13 영화 등급 가이드라인을 적용했습니다.PG-13 등급”
• 청소년 계정 (Teen Accounts):

  소셜 미디어 및 온라인 플랫폼에서 만 18세 미만의 미성년 사용자를 위해 특별히 설계된 계정 유형. 이 계정은 성인 계정과는 달리 콘텐츠 접근 제한, 개인 정보 보호 설정 강화, 상호작용 관리 등 연령에 적합한 보호 조치가 기본적으로 적용되는 것이 특징. 부모나 보호자가 자녀의 온라인 활동을 감독하고 안전하게 관리할 수 있도록 추가적인 도구를 제공하기도 하는 사용자 환경

  “소셜 미디어 회사는 18세 미만 사용자에게 기본 설정되는 '청소년 계정'에 새로운 보호 장치를 추가하고 있습니다.”
• 콘텐츠 조정 (Content Moderation):

  온라인 플랫폼에 게시되는 사용자 생성 콘텐츠(User Generated Content, UGC)가 플랫폼의 정책, 법적 규제, 사회적 규범에 부합하는지 검토하고 관리하는 일련의 과정. 유해하거나 불법적인 콘텐츠(예: 폭력, 증오심 표현, 불법 행위, 성적으로 부적절한 내용 등)를 식별하고 삭제하거나 제한함으로써 플랫폼의 안전성을 유지하고 사용자를 보호하는 데 목적을 두는 중요한 운영 활동

  “콘텐츠 조정 전문가들은 메타가 소셜 미디어에 깔끔하게 적용되지 않는 시스템을 선택한 이유에 대해 의아해했습니다.”