분류기 (Classifiers)
인공지능 모델의 입력이나 출력을 모니터링하여 특정 정책 위반 여부를 판별하고 차단하는 보조 시스템임
용례
"샘 올트먼은 국방부와의 계약에서 레드라인이 지켜지는지 확인하기 위해 분류기를 운영하고 업데이트할 것이라고 설명함."
인공지능 모델의 입력이나 출력을 모니터링하여 특정 정책 위반 여부를 판별하고 차단하는 보조 시스템임
"샘 올트먼은 국방부와의 계약에서 레드라인이 지켜지는지 확인하기 위해 분류기를 운영하고 업데이트할 것이라고 설명함."