AI에 의존하면 의심이 잘못된 자신감으로 바뀔 수 있다는 연구 결과

발레리오 카프라로가 이끈 연구에 따르면, 일부러 틀린 AI 답변은 사람들의 정확도를 떨어뜨리는 동시에 자신감은 높였다.

AI 도움을 받은 참가자들은 더 자주 답했고, 모른다고 인정하는 경우가 줄었으며, 혼자 풀 때보다 자신감을 더 높게 보고했다.

이 효과는 AI 제안이 자동으로 표시돼도 유지됐고, 정확도 보상도 이를 부분적으로만 줄였다.

이번 결과는 챗봇 조언이 과도한 자신감과 판단력 저하를 불러 학습과 의사결정에 위험할 수 있음을 보여준다.