프롬프트 주입 (Prompt Injection)
외부 입력값을 통해 AI의 원래 지침을 무시하게 만들거나 악의적인 명령을 수행하도록 유도하는 공격 기법
용례
"간접적인 프롬프트 주입이 식별될 경우 작업을 자동으로 중단시키는 기업용 보호 시스템을 제공함."
외부 입력값을 통해 AI의 원래 지침을 무시하게 만들거나 악의적인 명령을 수행하도록 유도하는 공격 기법
"간접적인 프롬프트 주입이 식별될 경우 작업을 자동으로 중단시키는 기업용 보호 시스템을 제공함."