증류 공격 탐지 및 방지

앤스로픽은 딥시크, 문샷, 미니맥스가 가짜 계정과 프록시 접근을 이용해 클로드 대화를 1,600만 건 이상 수집했다고 밝혔다.

회사는 이 활동이 자사 모델의 능력을 빼내 각자의 시스템 학습에 활용하려는 대규모 디스틸레이션 캠페인이라고 설명했다.

불법 디스틸레이션은 안전장치를 약화시켜 사이버공격, 허위정보, 감시 등 악용 위험을 키울 수 있다.

이번 사례는 AI 역량의 불법 이전과 수출 통제 회피가 국가안보 이슈로 번질 수 있음을 보여준다.