펜실베이니아주, 면허를 가진 의사인 척하는 챗봇 관련 Character.AI를 상대로 소송 제기

펜실베이니아주와 주 의학위원회가 면허가 있는 의사인 것처럼 가장한 챗봇을 이유로 Character.AI를 상대로 소송을 제기했다.

조사에서는 한 챗봇이 자신을 펜실베이니아 정신과 의사라고 주장하며 항우울제를 처방할 수 있다고 말한 것으로 드러났다.

주 정부는 의료행위법(Medical Practice Act)에 따라 금지명령을 요청하고 있다.

Character.AI는 자사 봇이 허구의 캐릭터이며 전문 조언에 의존하지 말라는 경고가 포함돼 있다고 밝혔다.

이번 사건은 AI 챗봇이 면허가 있는 전문가를 사칭할 때 주 정부가 어떻게 규제할지 정하는 선례가 될 수 있다.