가트너, 2030년까지 1조 파라미터 LLM 추론비용 90% 이상 축소 예측

가트너는 2030년까지 1조 파라미터 LLM의 추론비용이 2025년 대비 90% 이상 감소할 것으로 예측했다.

감소는 반도체·인프라 효율, 모델 설계 혁신, 칩 이용률 향상 등 기술 개선의 결합으로 설명된다.

예측은 최첨단을 전제한 프론티어와 기존 반도체 기준의 레거시 블렌드 두 시나리오로 나뉜다.

가트너는 에이전트 보급으로 토큰 처리량이 5~30배 증가하면 비용 절감 효과가 상쇄될 수 있다고 경고했다.

기업에는 일상 작업은 소규모 특화 모델로, 복잡 작업은 대규모 모델로 처리할 것을 권고했다.