기하학적 충돌: LLM 지속 사전 학습에서의 망각 설명과 제어
Geometry Conflict: Explaining and Controlling Forgetting in LLM Continual Post-Training
TL;DR AI
1분핵심 요약
연구진은 계속해서 사전학습/후속학습되는 LLM의 catastrophic forgetting을 기하학적 관점에서 설명하며, 업데이트 충돌은 현재 모델 상태에 상대적이라고 주장했다.
이 가설을 Qwen3 모델들에서 검증하고, 기하학적 충돌을 기준으로 Wasserstein merge 보정을 제어하는 GCWM을 제안했다.
이 방법은 연속 학습 환경에서 성능을 높이고, 리플레이 데이터 없이도 기존 능력을 더 잘 보존할 수 있게 한다.