인지 모델을 위한 신뢰할 수 있고 설명 가능한 AI를 향하여: 개념에서 프로토타입 차량 배치까지

연구진은 3D 장면 이해 결과를 주의(attention) 기반으로 설명하고, 충실성 검증까지 포함한 신뢰 가능한 자율주행 인지 모듈을 개발했다.

이 시스템은 불확실성 추정과 보정(calibration), 그리고 인지 모델의 강건성을 높이는 학습 방법을 추가했다.

프로토타입 차량에서 실시간 XAI 인터페이스와 함께 시연돼, 주행 환경에서도 설명 가능한 모니터링이 가능함을 보였다.

이번 연구는 예측을 더 투명하고 잘 보정된 형태로 만들어 자율주행 AI의 안전한 배포와 감독에 도움을 준다.