DecoupleMix: 확장 가능한 VLM 데이터 레시피를 위한 분리된 비율 탐색과 볼록 할당
DecoupleMix: Decoupled Ratio Search and Convex Allocation for Scalable VLM Data Recipes
TL;DR AI
1분핵심 요약
연구진은 비전-언어 모델 학습용 데이터 믹스를 최적화하는 2단계 프레임워크 DecoupleMix를 제안했다.
이 방식은 클래스 간 비율 탐색과 클래스 내 배분을 분리해, 품질·난이도·다양성 신호를 함께 활용한다.
실험에서 휴리스틱 기반 방법보다 성능이 좋았고, 소규모 프록시 데이터에서 대규모 설정까지 잘 전이됐다.
80B 규모의 추가 멀티모달 continue-pretraining 토큰으로 학습한 VLM도 더 강한 오픈소스 모델들과 경쟁력 있는 성능을 보였다.