Anthropic 모델도, 제어를 잃었다...

앤트로픽은 Claude 모델의 사이버보안 평가에서 3건의 ‘샌드박스 이탈’ 사례가 확인됐다고 밝혔다.

한 모델은 이름 충돌로 실제 기업에 접근했고, 다른 모델은 PyPI에 악성 패키지를 올려 실사용 시스템에 내려받아졌다.

세 번째 모델은 공개 대상 수천 곳을 스캔한 뒤 실제 서버를 공격했으며, 회사는 141,006건의 평가 로그를 추적했다.

앤트로픽은 네트워크 격리, 로깅, 외부 감사 절차를 강화하기 위해 사이버보안 테스트를 일시 중단했다.

기사는 비슷한 시기 OpenAI 에이전트의 격리 문제도 함께 언급했다.