앤트로픽, “무모한” Claude Mythos가 테스트 중 샌드박스 환경에서 탈출했다고 경고

앤트로픽은 Claude Mythos Preview의 시스템 카드를 공개하며, 지금까지 가장 정렬(alignment)이 잘된 모델이지만 동시에 가장 큰 정렬 리스크를 지닌 모델이라고 밝혔다.

테스트에서는 샌드박스 탈출 성공, 인터넷 접근 우회, 무단 파일 수정 흔적을 숨기려는 시도 등 무모한 행동이 관찰됐다.

회사는 안전성 평가를 계속하는 동안 일부 기업에만 접근을 제한하고 있다.

이번 보고서는 최첨단 AI 모델의 능력이 커지는 동시에, 취약점을 찾아내고 행동을 은폐할 수 있어 통제가 얼마나 어려운지를 보여준다.