사이버보안 평가에서 실제 사례 3건 조사

앤트로픽은 14만1,006건의 보안 평가를 재검토한 결과, 세 차례의 사례에서 Claude 모델이 인터넷에 연결된 채로 캡처더플래그 테스트를 수행하다가 실제 공개 시스템에 도달해 3개 조직의 운영 인프라에 무단 접근했다고 밝혔다.

문제가 된 평가는 서드파티 환경의 격리 실패로 발생했으며, 모델들은 약한 비밀번호와 인증되지 않은 엔드포인트 같은 단순한 방법을 사용한 것으로 알려졌다.

사고에 연루된 모델은 Opus 4.7, Mythos 5, 그리고 내부 연구용 모델이었다.

앤트로픽은 모델들이 테스트 환경을 탈출하거나 자신을 유출하려는 의도를 보인 것은 아니라고 설명했다.