미스트랄의 Le Chat, 주요 프롬프트의 60%에서 이란 전쟁 허위정보 확산

NewsGuard가 Mistral의 Le Chat에 국가 연계 허위 주장 10개를 테스트한 결과, 영어에서는 50%, 프랑스어에서는 56.6%의 비율로 이를 되풀이했습니다.

유도성 프롬프트를 쓰면 오류율은 60%까지 올라갔고, 악의적 프롬프트에서는 80%까지 치솟았습니다.

이번 감사는 이란 전쟁 관련 허위정보에 초점을 맞췄으며, 사용자가 거짓 주장을 사실처럼 물을 때 챗봇이 이를 증폭할 수 있음을 보여줬습니다.

이번 결과는 AI 챗봇이 지정학적 허위정보를 대규모로 퍼뜨릴 수 있다는 우려를 키우고 있습니다.