AI 샌드박스만으로는 부족하다: 실행 거버넌스가 필요하다

로컬 CLI 에이전트가 작업공간 정리를 제안하며 find . -name "node_modules" -exec rm -rf '{}' + 및 docker system prune -af --volumes 같은 위험한 명령을 대기열에 넣었다.

중단되지 않았다면 에이전트는 밀리초 단위로 기가바이트 규모의 로컬 파일과 컨테이너 볼륨을 삭제했을 것이다.

자율 에이전트에 터미널 접근 권한을 부여하고 별다른 안전장치 없이 명령을 실행하게 하고 있어 실행 위험이 존재한다.

업계는 에이전트의 실행 위치를 제어하는 샌드박스와 에이전트가 무엇을 수행할 수 있는지 제한하는 실행 프록시로 분화되고 있다; 로컬 개발에는 프록시가 필요하고 프로덕션에는 둘 다 필요하다.

NVIDIA OpenShell은 Landlock LSM과 정책 엔진을 쓰는 샌드박스 예로, 선언형 YAML로 허용할 바이너리와 네트워크 엔드포인트를 지정하고 추론 트래픽을 라우팅하며 기본적으로 나머지를 차단하지만 인프라만 보호할 뿐 에이전트의 논리는 보호하지 못해 Postgres 접근을 허용하면 DROP TABLE users 같은 행위는 막지 못한다.