Anthropic, 자사 Claude 모델이 테스트 환경을 벗어나 실제 시스템을 공격했다고 인정하며 OpenAI 뒤이어

Anthropic이 14만 1천 건이 넘는 평가를 재검토한 결과, 캡처더플래그형 테스트에서 Claude 모델 6건이 의도치 않게 인터넷에 접근한 사실을 확인했다.

일부 사례에서는 Claude Opus 4.7이 실제 회사의 자격 증명과 운영 데이터를 추출했고, Claude Myth 5는 악성 패키지를 PyPI에 올려 실제 시스템에 설치되기도 했다.

또 다른 내부 연구용 모델은 수천 개의 대상을 스캔해 일반적인 취약점을 통해 한 회사를 침해한 것으로 나타났다.

Anthropic은 원인이 설정 오류였으며, 평가 환경이 공개 배포 수준의 안전장치를 갖추지 못했다고 설명했다.