안전 필터 (Safety Filter)
사이버 공격, 생화학 무기 제조 등 고위험 요청을 감지하여 답변을 거부하거나 하위 모델로 강제 전환시키는 제어 시스템
용례
"사이버 보안이나 생물학적 무기 제조와 같은 고위험 주제에 대해 모델 작동을 중단시키거나 하위 모델로 전환하는 장치."
사이버 공격, 생화학 무기 제조 등 고위험 요청을 감지하여 답변을 거부하거나 하위 모델로 강제 전환시키는 제어 시스템
"사이버 보안이나 생물학적 무기 제조와 같은 고위험 주제에 대해 모델 작동을 중단시키거나 하위 모델로 전환하는 장치."