중국 AI 기업, 앤트로픽 Claude에 수백만 프롬프트를 사용해 미국 AI 지식 빼돌려

Anthropic는 중국 AI 기업이 가짜 Claude 계정을 대량 생성해 수백만 건의 프롬프트와 응답을 주고받으며 모델 지식을 빼갔다고 주장했다.

이렇게 수집된 지식은 Alibaba의 AI 모델 학습에 활용됐을 가능성이 있다고 Anthropic는 밝혔다.

Anthropic는 이 사안을 미 의회에 알렸고, 유사한 AI 모델 탈취 행위에 대한 대응을 촉구했다.

이번 사례는 생성형 AI API를 악용한 지식 추출과 AI 기술 유출의 위험을 보여준다.