오픈AI, 챗GPT 악용한 캄보디아 사기조직 계정 폐쇄

오픈AI가 캄보디아 포이펫 기반 범죄조직과 연계된 챗GPT 계정을 폐쇄했다.

해당 조직은 챗GPT로 가짜 신원, 다국어 메시지, 허위 투자 홍보물, 위조 문서를 만들어 암호화폐 사기를 벌인 것으로 조사됐다.

연애·우정 가장 접근과 추가 송금 요구까지 이어졌고, 조사에서는 채터 모집과 노동 인신매매 정황도 확인됐다.

오픈AI는 조사 결과를 업계와 수사기관에 공유했다.

이번 사례는 생성형 AI가 사기 범죄의 자동화 도구로 악용될 수 있음을 보여준다.