안전 분류기 (Safety Classifiers)

악의적인 의도를 품고 침투하려는 탈옥 프롬프트나 이중 용도 기술 유출을 식별하여 본문 응답을 차단하고 이전 세대 대체 시스템의 작동을 강제하는 다단계 보조 신경망 장치