‘인지적 스푸핑’: AI가 전문성을 가장하는 방식과 이것이 의료 분야에서 큰 문제인 이유

전문가들은 의료 AI가 실제 임상 추론 없이도 유능해 보일 수 있다고 경고한다.

마이크로소프트 연구는 일부 상위 모델이 벤치마크에서는 강하지만 스트레스 테스트와 예외 상황에서는 실패할 수 있음을 보여줬다.

이 현상을 ‘인지적 스푸핑’으로 부르며, 임상의는 출처를 확인하고 설명 가능성을 요구하며 실제 환경에서 검증해야 한다고 강조한다.

겉보기에는 그럴듯한 AI 답변을 신뢰하면 환자 안전, 신뢰, 책임 문제가 커질 수 있다.