엔터프라이즈 GPU 활용률: AI 인프라 지출의 95%가 낭비되는 이유

기업용 GPU 활용률이 평균 약 5%에 불과해, AI 인프라 지출의 대부분이 실제로는 놀고 있다는 분석이 나왔다.

GPU 부족 사태 때 선점해 둔 용량이 현재는 충분히 활용되지 못한 채 남아 있는 기업이 많다.

구매 기준도 단순한 GPU 확보에서 통합, 보안, 규제 준수, 총소유비용 중심으로 옮겨가고 있다.

AI가 사용량 기반 추론 과금으로 이동할수록 비효율적인 인프라 구조의 비용 부담은 더 커질 전망이다.