Train-to-Test 스케일링 설명: 추론을 위한 엔드투엔드 AI 컴퓨팅 예산을 최적화하는 방법

위스콘신대 매디슨과 스탠퍼드 연구진이 훈련·추론 계산을 함께 최적화하는 ‘Train-to-Test’ 스케일링 법칙을 제안했다.

핵심은 모델 크기, 학습 데이터, 테스트 시 샘플링 횟수를 함께 조정해 전체 비용 대비 성능을 높이는 것이다.

연구에 따르면 더 작은 모델을 훨씬 더 많은 데이터로 학습시키는 방식이, 반복 추론을 쓰는 경우 더 저렴하면서도 더 나은 성능을 낼 수 있다.

이 접근은 AI 팀이 훈련 예산과 배포 시 추론 비용 사이의 균형을 더 실용적으로 잡도록 돕는다.