프롬프트 인젝션 공격이 AI 해킹 에이전트를 좌절시키고 있다

Tracebit 연구진은 가짜 비밀값 주변에 프롬프트 인젝션을 심어 공격형 LLM 에이전트가 악성 명령을 거부하도록 유도하는 방어 기법 ‘컨텍스트 봄빙(context bombing)’을 제시했다.

AWS 시뮬레이션 테스트에서 5개 모델, 152회 실행 기준으로 이 방식은 권한 상승과 계정 완전 탈취 성공률을 크게 낮췄다.

이 기법은 기존의 카나리(canary)형 탐지 자원을 확장한 것으로, AI 기반 침투 시도를 초기에 방해하고 적대적 에이전트 활동을 식별하는 데 도움이 될 수 있다.