모든 LLM 앱은 데이터를 유출하기 때문에 오픈소스 AI 방화벽을 만들었다
I Built an Open-Source AI Firewall Because Every LLM App Leaks Data
TL;DR AI
1분핵심 요약
AI Security Gateway는 애플리케이션과 LLM 제공자 사이에서 요청을 실시간으로 검사하는 오픈소스 프록시다.
28종 이상의 개인정보를 마스킹하고, 프롬프트 인젝션을 차단하며, 예산을 제한하고, 더 저렴한 모델로 라우팅할 수 있다.
프롬프트 내용은 저장하지 않고 메타데이터만 보관하는 무상태 구조로, 개인정보·보안·컴플라이언스 위험을 줄인다.
민감한 데이터가 LLM 벤더로 직접 전송되는 기업 환경을 겨냥한 도구다.