안전 가이드라인 (Safety Guardrails)
인공지능이 인종차별, 혐오 표현, 위험한 정보 제공 등을 하지 못하도록 기술적으로 설정한 제약 사항 또는 보호 장치. 특히 청소년들이 인공지능을 정서적 상담이나 군사적 목적으로 활용하려 할 때 발생할 수 있는 윤리적, 사회적 위험을 방지하기 위한 필수적인 방어선으로 간주됨
용례
"앤스로픽은 자사의 인공지능 모델인 클로드에 대해 대규모 감시나 인간의 개입 없는 무기 통제 등에 사용되지 않도록 엄격한 안전 가이드라인을 고수하며 정부와 협상 중임."