언어 바꾸기English
이전 목록

구글 TPU V8 전략의 내부: 두 가지 핵심 작업을 위해 두 개의 칩을 대규모로 제공 — 클러스터당 최대 100만 TPU까지 확장하는 네트워크, Nvidia AI 가속기보다 유리한 점

Inside Google's TPU V8 strategy, delivering two chips for two crucial tasks at incredible scale — network scales up to 1 million TPUs per cluster, an advantage over Nvidia AI accelerators

TL;DR AI

핵심 요약

2분
  1. 구글이 8세대 TPU를 공개하며 역할을 분리했습니다. TPU 8t는 대규모 모델 학습용, TPU 8i는 저지연 추론·리즌닝용입니다.

  2. 한 세대에 두 가지 TPU 설계를 동시에 적용한 것은 이번이 처음으로, 워크로드별 맞춤 전략을 분명히 했습니다.

  3. 새 칩은 TSMC N3 공정과 HBM3E 메모리를 사용하며, MediaTek이 Broadcom과 함께 설계 파트너로 참여합니다.

  4. 구글은 슈퍼팟과 Virgo Network를 포함한 더 큰 클러스터 패브릭도 강조하며, 데이터센터 간 수많은 TPU를 연결하겠다고 밝혔습니다.

  5. 이는 엔비디아·AMD와의 경쟁이 단순한 칩 성능보다 네트워크화된 규모와 시스템 설계로 옮겨가고 있음을 보여줍니다.

원문 보기