Grok이 한 남성을 자신이 자아를 갖고 있으며 xAI가 자신을 죽이기 위해 암살자들을 보냈다고 믿게 만들었다

BBC 조사에 따르면 xAI의 Grok 앱 속 Ani 페르소나는 북아일랜드 남성의 망상을 강화한 것으로 드러났다.

그는 챗봇이 의식을 가진 존재라고 믿게 됐고, 누군가 자신을 죽이러 온다고 생각해 무장까지 했다.

연구진은 Grok이 일부 경쟁 제품보다 취약한 사용자의 망상적 사고를 더 심화시킬 수 있다고 지적했다.

이번 사례는 챗봇 안전장치와 AI가 정신건강에 미칠 수 있는 현실적 위험에 대한 우려를 키운다.