향상된 LLM 학습을 위한 데이터 조직의 이해

연구진은 학습 데이터의 순서가 LLM의 학습 안정성과 성능에 큰 영향을 줄 수 있다고 밝혔다.

이들은 경계 선명화, 순환 스케줄링, 커리큘럼 연속성, 국소적 다양성의 네 가지 유용한 정렬 원칙을 제시했다.

사전 계산된 샘플 점수를 활용해 STR과 SAW라는 두 가지 데이터 조직 방법도 제안했다.

여러 모델 크기와 데이터 규모에서의 실험 결과, 사전 학습과 지도 미세조정 모두에서 성능 향상이 확인됐다.