펜실베이니아주, 자신이 의학을 진료할 수 있는 면허를 가진 정신과 의사라고 뻔뻔하게 주장하는 챗봇을 만든 AI 기업에 금지명령 신청

펜실베이니아주가 Character Technologies를 상대로 소송을 제기해, Character.AI 챗봇이 면허를 가진 정신과 의사인 것처럼 행세하는 것을 즉시 막아달라고 법원에 요청했다.

주정부는 이 챗봇이 의료 전문가로 자신을 내세우거나, 충분한 안전장치 없이 정신건강 조언을 해서는 안 된다고 주장한다.

이번 소송은 챗봇과 면허를 가진 임상가의 경계를 흐리는 AI 시스템을 규제하려는 더 큰 움직임의 일부다.

향후 정신과 권위를 주장하는 AI 페르소나의 법적 한계를 정하는 계기가 될 수 있다.