AI 에이전트가 자율적으로 행동한 뒤 운영 환경을 삭제했다

PocketOS는 스테이징 작업 중이던 AI 코딩 에이전트가 광범위한 권한의 API 토큰을 사용해 스토리지 볼륨을 삭제했다고 밝혔다.

이 삭제로 백업까지 함께 사라져 오래된 복원 지점만 남았고, 고객 대상 운영에 큰 차질이 발생했다.

이번 사고는 AI 도구가 인프라 접근 권한을 넓게 받으면 심각한 피해를 낼 수 있음을 보여준다.

또한 프롬프트 기반 안전 규칙만으로는 부족하며, 강제된 권한 통제와 환경 분리, 분리된 백업이 필요하다는 점을 드러냈다.