구글, 멀티 토큰 예측으로 Gemma 4 속도 3배 향상

구글은 Gemma 4에 다중 토큰 예측 드래프터를 추가해 텍스트 생성을 최대 3배까지 빠르게 했다.

작은 보조 모델이 여러 토큰을 미리 제안하고, 메인 모델이 이를 한 번에 검증하는 방식이다.

이 방식은 출력 품질을 바꾸지 않으면서 LLM 추론 병목을 줄여준다.

오픈웨이트 AI 모델을 스마트폰, PC, 클라우드 환경에서 더 실용적으로 만들 수 있다.