언어 바꾸기English
이전 목록

Tenstorrent, DeepSeek R1에서 Galaxy Blackhole이 350토큰/초를 기록하며 NVIDIA GB300보다 AI TCO를 5배 낮춰 “모두를 압도하겠다” 선언

Tenstorrent Vows to ‘Crush Everyone’ as Galaxy Blackhole Hits 350 Tokens/s on DeepSeek R1, Undercutting NVIDIA’s GB300 5x AI TCO

TL;DR AI

핵심 요약

1분
  1. 텐스토렌트는 Galaxy Blackhole AI 서버를 공개하며 DeepSeek R1-0528 671B에서 초당 350토큰 이상 성능을 낸다고 주장했다.

  2. 회사 측은 NVIDIA GB300 기반 시스템보다 토큰당 비용과 총소유비용(TCO)이 낮아 지연 민감형 추론에 유리하다고 강조했다.

  3. 또한 Blitz Mode와 TT-Deploy 소프트웨어 스택을 통해 GenAI 비디오 생성 속도도 더 빠르다고 밝혔다.

  4. Galaxy Blackhole 라인의 하드웨어 가격은 11만 달러부터 시작하며, RISC-V 기반 플랫폼을 GPU의 저비용 대안으로 내세우고 있다.

원문 보기