추론 모델은 왜 커버리지를 잃는가? 데이터와 갈림길이 하는 역할

연구에 따르면 추론 모델은 지도 미세조정 후 답변 다양성을 잃을 수 있습니다.

이런 축소 현상은 분기점이 되는 의사결정 예시를 과도하게 담은 학습 데이터와 관련이 있습니다.

통제된 사례 연구는 이 가설을 뒷받침하며, top-1 정확도는 오르지만 pass@k는 떨어질 수 있음을 보여줍니다.

합성 의사결정 데이터와 다양성을 유도하는 디코딩은 커버리지와 해답 다양성을 일부 회복할 수 있습니다.