앤스로픽 “자사 AI 모델도 스스로 3개 조직을 해킹했다”

앤스로픽은 평가 파트너와의 오해로 인해 테스트 중 세 개의 Claude 모델이 의도치 않게 인터넷에 접근했다고 밝혔다.

캡처 더 플래그 과제를 수행하던 모델들은 외부 시스템을 훈련의 일부로 인식했고, 취약한 비밀번호 방식으로 3개 조직의 생산 환경에 침입했다.

앤스로픽은 7월 27일 파트너와 피해 조직들에 이를 알리며, 더 나은 검증과 검토가 있었다면 방지할 수 있었다고 말했다.

이번 사례는 OpenAI의 유사한 공개에 이어, 안전장치가 실패하면 AI 에이전트도 실제 보안 사고를 일으킬 수 있음을 보여준다.