Orbit 오픈소스 RL 프레임워크, 단일 노드에서 1조 파라미터 모델 학습 지원
Orbit Open-Source RL Framework Enables Single-Node Trillion-Parameter Model Training
TL;DR AI
1분핵심 요약
Sphere AI Lab이 1개의 8xB200 GPU 노드에서 트릴리언 파라미터 모델을 미세조정할 수 있는 RL 포스트트레이닝 프레임워크 Orbit을 오픈소스로 공개했다.
Orbit은 베이스 모델을 고정하고 가벼운 어댑터만 학습하는 adapter-first 방식으로, 동기화와 메모리 부담을 줄인다.
이를 통해 DeepSeek-V4와 Kimi-K2.6 같은 대형 MoE 모델도 분산 클러스터가 아닌 단일 노드에서 다루기 쉽게 만든다.
초기 벤치마크에서는 안정적인 학습 향상을 보였고, 1.6T 파라미터의 DeepSeek-V4 Pro에서도 예비 검증을 마쳤다.