구글·메타 출신 엔지니어들, 엔비디아 GPU 우위에 도전하는 메모리 우선 AI 서버 개발

Majestic Labs AI가 Nvidia의 GPU 중심 방식에 도전하는 메모리 우선 AI 서버 아키텍처 ‘프로메테우스’를 공개했다.

이 시스템은 연산 성능보다 최대 128TB에 달하는 대용량 메모리를 핵심으로 삼아, 5조~10조 파라미터 모델을 겨냥한다.

범용 DRAM과 자체 인터커넥트를 활용해 GPU 기반 시스템의 메모리·공급 제약을 피하겠다는 것이 회사의 설명이다.

이 스타트업은 1억 달러를 조달했으며 고객 확보도 시작해, 대규모 모델 추론의 병목이 연산보다 메모리에 있다고 보고 있다.