무상태 평가와 맥락 기반 평가의 차이로 AI 생성 정신건강 조언이 오판받아

이 글은 AI 정신건강 조언이 종종 잘못 평가된다고 지적하는데, 그 이유는 테스트가 프롬프트를 분리된 무상태 입력으로만 보기 때문입니다.

실제 사용에서는 사람들이 후속 질문을 이어가며 이전 답변을 바탕으로 대화를 확장하고, 이는 모델의 반응을 바꿀 수 있습니다.

이런 차이 때문에 ChatGPT, Claude, Gemini, Grok 같은 시스템에서 위험하거나 망상적인 조언이 드러나지 않을 수 있습니다.

글은 단발성 프롬프트가 아니라 실제 대화를 반영하는 더 나은 평가 방법이 필요하다고 주장합니다.