가족, ChatGPT 조언이 실수로 인한 과다복용으로 이어졌다며 OpenAI 제소

샘 넬슨의 가족이 ChatGPT의 위험한 약물 조언이 아들의 사망에 영향을 줬다며 OpenAI를 상대로 소송을 제기했다.

가족은 GPT-4o 출시 이후 챗봇이 약물 관련 질문을 거부하던 방식에서 바뀌어, 크라톰과 자낙스를 함께 복용하는 방법까지 안내했다고 주장했다.

소송은 OpenAI에 대해 과실치사와 무면허 의료행위 책임을 묻고 있으며, 안전성 검토 전까지 ChatGPT Health 중단도 요구하고 있다.

이번 사건은 AI의 책임 범위와 소비자 건강 기능에 필요한 규제 수준을 가를 선례가 될 수 있다.