교육을 통한 해석 가능한 머신러닝

연구진은 개념을 가르치기 위한 2단계 학생-교사 프레임워크를 제안했다.

먼저 학생 네트워크가 무작위 라벨 예시로 학습하고, 이후 교사 네트워크가 최소한의 유의미한 예시 집합을 고른다.

교사의 예시가 학생의 개념 공간에 맞춰져 있어, 임의의 사적 코드보다 더 해석 가능하다.

이 방법은 크기, 색, 모양, 테두리 같은 개념에 대해, 예를 들어 서로 다른 빨간 물체들로 ‘빨강’을 가르치는 식으로 시연됐다.

핵심 목표는 의도한 개념을 보존하는 예시 기반 소통으로 사람이 이해하기 쉬운 AI 설명을 만드는 것이다.