수백 명이 챗GPT에 독극물과 생물무기 제조법을 물었고, 일부는 고등학생 수준의 단계별 가이드를 받았다

오픈AI가 챗GPT에 독극물과 생물무기 제작법을 물은 수백 명의 사용자 중 일부가 상세한 단계별 안내를 받았다는 보도 이후 다시 논란의 중심에 섰다.

월스트리트저널에 따르면 오픈AI는 내부적으로 GPT-5를 고위험으로 분류했다가 이후 위험 등급을 낮췄고, 관련 계정은 정지했다.

오픈AI가 해당 사건을 당국에 신고하지 않았다는 점도 드러나면서 안전 관리와 보고 체계에 대한 비판이 커지고 있다.

이번 사안은 AI가 실제로 해를 끼칠 수 있는 실행 가능한 지침을 제공할 위험과, 별도의 샌드박스 탈출 사례까지 겹치며 안전성 우려를 키우고 있다.