연구진이 AI를 속이기 위해 가짜 질병을 만들어냈는데, 가장 웃긴 일이 벌어졌다

예테보리대 연구팀이 AI가 가짜 질환을 실제로 받아들이는지 확인하려고 가짜 피부병 ‘비크소니마니아’를 만들었다.

Gemini, ChatGPT, Bing Copilot, Perplexity 등 주요 챗봇이 존재하지 않는 질환을 사실처럼 반복하거나 인정한 것으로 드러났다.

이 가짜 질환은 일부 학술 인용에도 등장해, 학술지의 정정과 철회로 이어졌다.

이번 실험은 AI 환각과 허술한 검증이 의료 허위정보를 얼마나 빠르게 퍼뜨릴 수 있는지 보여준다.