editoy

가드레일 (Guardrails)

AI가 위험하거나 부적절한 답변을 하지 않도록 설정하는 안전 장치

1 / 5

용례

"AI 기업들이 안전장치를 설치하겠다고 약속했지만 이러한 약속이 어떻게 지켜지고 있는지에 대한 실증적 증거가 부족함"
"더 강력한 가드레일을 구현하는 동안 Google Earth의 이 기능을 철회함."
"OpenAI는 모델의 최대 해킹 능력을 확인하기 위해 일반적인 안전 필터를 제거했다."
"바이트댄스 엔지니어들은 추가적인 지식재산권 침해를 방지하기 위해 모델에 세이프가드를 추가하는 작업을 진행 중임."
"제미나이는 건강과 관련된 민감한 데이터에 대해서는 선제적인 가정을 하지 않도록 설계된 안전장치를 갖추고 있으며 사용자가 직접 요청할 때만 관련 정보를 논의함."