editoy

생성 시점 필터링 (Generation-time Filtering)

인공지능이 데이터를 검색하여 답변을 생성하는 과정에서, 이미 데이터를 다 읽은 후에 답변을 내보낼지 말지를 결정하는 사후 보안 방식. 데이터가 인공지능 모델의 맥락에 들어가는 단계에서 차단하는 것이 아니기 때문에 보안상 취약할 수 있으며, 이번 사고의 근본적인 설계 결함으로 지목됨

용례

"데이터 손실 방지 레이블 방식은 검색 단계가 아닌 생성 시점의 필터를 사용하여 문제를 해결하려 하며, 이는 인공지능이 이미 읽은 내용을 잊게 만드는 오류를 지속적으로 발생시킬 것입니다."