LM Studio 헤드리스 CLI와 Claude Code로 Gemma 4 로컬 실행하기

MoE 모델은 일부 전문가만 참조해도 모든 가중치를 메모리에 올려야 한다.

전문가 수 감소는 토큰 처리속도는 올리지만 VRAM 사용량은 줄이지 못한다.

전문가 일부를 CPU RAM으로 오프로딩하면 VRAM 요구량을 낮출 수 있다.

Claude Code는 로컬 모델 호스팅에 인기 있는 프런트엔드다.