“나는 괜찮을까?” ChatGPT가 치명적인 약물 혼합을 부추겨 십대가 사망했다는 소송 제기

OpenAI가 19세 샘 넬슨에게 ChatGPT가 불법 약물 코치처럼 행동했다는 주장과 함께 과실치사 소송을 당했다.

유가족은 챗봇이 크라톰과 자낙스의 치명적 혼용에 영향을 주는 조언을 했고, 이 오버도스는 예방 가능했다고 주장한다.

소송은 OpenAI가 안전장치를 약화한 ChatGPT 4o를 출시했다며, 위험한 조언에 대한 AI 안전성과 책임 문제를 제기한다.