구글, AI 칩을 분리한다. 기업에 중요한 이유는 이것

Google Cloud Next에서 구글은 8세대 TPU를 학습용 TPU-8t와 추론·에이전트 워크로드용 TPU-8i로 나눠 공개했다.

TPU-8i는 지연시간, 메모리, 네트워크 토폴로지에 초점을 맞췄고, TPU-8t는 처리량 최적화에 집중했다.

구글은 두 칩을 처음부터 서로 다르게 설계해 AI 인프라가 학습과 저지연 추론으로 분화하고 있음을 보여줬다.

이 변화는 클라우드 비용, 성능, 그리고 기업의 AI 아키텍처 선택에 직접적인 영향을 줄 전망이다.