세밀한 이미지 인식을 위한 교사 모델 선택 방법

새 arXiv 논문은 세밀한 이미지 인식을 위한 지식 증류에서 교사를 고르는 지표인 Ratio 1-2를 제안한다.

1000회가 넘는 실험에서 다양한 교사, 학생, 데이터셋, 학습 전략 조합에 걸쳐 학생 모델 정확도를 높였다.

이 방법은 더 나은 교사를 선택해 제한된 디바이스에서도 압축된 비전 모델의 성능을 끌어올리는 실용적 해법을 제시한다.