84. LLM 미세조정: 거대한 모델에 새 기술을 가르치기

이 글은 GPT-3급 모델의 전체 파인튜닝과, 베이스 가중치를 고정한 채 작은 저랭크 어댑터만 학습하는 LoRA를 비교한다.

LoRA는 전체 파인튜닝 대비 학습 비용과 GPU 메모리를 크게 줄이면서도, 작업 특화 성능의 상당 부분을 유지한다.

또한 QLoRA 같은 기법을 통해 모든 파라미터를 업데이트하지 않고도 대규모 언어 모델을 실용적으로 적응시킬 수 있음을 보여준다.

핵심은 더 적은 자원으로도 특화된 모델 동작을 구현할 수 있어, 소규모 팀과 개인 개발자도 활용하기 쉬워졌다는 점이다.