Hugging Face, 딥페이크 누드 문제에 직면

AI Forensics는 Hugging Face의 인기 Spaces 일부가 옷을 입은 사진을 상반신 노출·성적 이미지로 바꿀 수 있다고 밝혔다.

테스트한 프롬프트 다수가 성적 내용이었고, 여성과 일부는 미성년자로 보이는 대상이 포함돼 있었다고 보고했다.

WIRED도 플랫폼에서 유명인 성적화나 ‘nudify’ 도구를 홍보하는 페이지를 확인했다.

Hugging Face는 아동 성착취물과 비동의 성적 딥페이크를 금지한다며 일부 조사 방식에는 이의를 제기했고, 안전장치 개선을 추진 중이라고 밝혔다.

이번 사례는 주류 AI 플랫폼이 성적 딥페이크 악용에 어떻게 노출되는지와 플랫폼 책임 문제를 다시 부각시켰다.