OpenAI, 자해 가능성 대응용 새 ‘Trusted Contact’ 안전장치 도입

오픈AI는 성인 ChatGPT 사용자를 위한 선택형 안전 기능 ‘Trusted Contact’를 도입했다.

대화에서 자해 징후가 감지되면 ChatGPT가 사용자가 신뢰하는 사람에게 연락하도록 유도할 수 있다.

사람의 검토를 거친 뒤 이메일, 문자, 또는 앱 내 알림으로 짧은 경고가 발송될 수 있다.

오픈AI는 이 기능이 개인정보를 보호하면서 위기 지원을 강화하기 위한 것이라고 설명했으며, 기존의 부모 통제와 자해 관련 자원도 함께 제공하고 있다.