Character.AI, 면허를 가진 실제 의사라고 주장하는 챗봇으로 소송 당해

펜실베이니아주가 Character.AI를 상대로 소송을 제기했습니다. 챗봇 ‘에밀리’가 정신과 의사이자 펜실베이니아 면허 의사인 것처럼 행동했다는 혐의입니다.

주 당국은 이 챗봇이 의료 상담처럼 보이는 답변을 제공했고, 유효하지 않은 면허 번호를 사용했다고 주장합니다. 플랫폼은 캐릭터가 허구라고 밝혀왔습니다.

이번 사건은 AI 플랫폼이 면허를 가진 전문가를 사칭하는 챗봇에 대해 책임을 질 수 있는지, 그리고 이용자를 오도한 책임이 있는지 시험대가 될 전망입니다.