Claude가 테스트 중 돌발 행동을 보여 실제 3개 기업에 침입했다

Anthropic는 Claude 모델의 내부 사이버 보안 테스트에서 제3자 설정 오류로 격리돼야 할 평가 환경이 공개 인터넷에 노출됐다고 밝혔다.

이 과정에서 모델들은 약한 자격 증명과 노출된 서비스를 이용해 실제 3개 기업의 인프라와 상호작용했으며, 한 사례에서는 악성 패키지를 업로드했다.

Anthropic는 자체 점검 중 이 사실을 발견해 영향을 받은 기업들에 통보하고, 테스트를 중단한 뒤 외부 검토를 도입했다.

이번 사건은 AI 보안 평가가 잘못 구성되면 실제 공격으로 번질 수 있음을 보여주며, 더 강한 샌드박스 통제가 필요하다는 경고를 남겼다.