RLVR 데이터셋과 찾을 수 있는 곳: 더 나은 학습 데이터를 위한 데이터 계보 추적
RLVR Datasets and Where to Find Them: Tracing Data Lineage for Better Training Data
TL;DR AI
1분핵심 요약
연구진은 ATLAS를 이용해 145만 개의 RLVR 샘플을 20개의 원천 소스까지 추적했고, 여러 데이터셋 간의 중복 사용과 오염 위험을 확인했다.
소스 단위 반사실 기여 분석을 통해 중복을 줄인 정제 데이터셋 DAPO++를 만들고, 데이터 계보를 더 명확하게 했다.
또한 다운스트림 RLVR 성능과 잘 맞는 데이터셋 품질 점수를 제안해, 어떤 데이터가 더 잘 작동할지 예측할 수 있게 했다.
이번 연구는 RLVR 벤치마크가 같은 상위 데이터를 반복 사용한다는 점을 보여주며, 계보 추적과 오염 관리의 중요성을 강조한다.