editoy logo

프롬프트 주입 공격 (Prompt Injection Attack)

악의적인 입력을 통해 AI 모델이 개발자가 의도하지 않은 작업을 수행하도록 조작하거나, 민감한 정보를 유출하도록 속이는 해킹 기법. 특히 AI 브라우저가 사용자 메모리에 저장된 광범위한 디지털 생활(검색 기록, 채팅, 개인 정보)에 접근하게 되면서, 공격자가 브라우저를 조작하여 은행 계좌 번호나 비밀번호를 공개하게 만들 수 있다는 심각한 보안 취약점

용례

"공격자들이 ‘프롬프트 주입 공격’이라고 알려진 것을 사용하여 AI 브라우저를 조작해 사용자 은행 계좌 번호와 비밀번호를 공개하도록 만들 수 있다는 문제가 되는 징후들이 있습니다."