마침내 CPU의 AI 전성기가 찾아왔다

에이전틱 AI에서 CPU의 역할이 커지고 있습니다. LLM 주변의 오케스트레이션, 토큰 처리, 캐싱, 도구 실행을 CPU가 담당하기 때문입니다.

AMD는 Advancing AI 행사에서 EPYC Venice 칩과 Helios 랙스케일 시스템을 공개하며, Nvidia의 Vera CPU와 자사 이전 세대보다 더 높은 처리량과 에이전트당 전력 효율을 강조했습니다.

Intel은 아직 경쟁력이 뒤처져 있으며, Diamond Rapids 같은 차세대 칩이 나와야 본격적인 반격이 가능할 전망입니다.

AI 워크로드가 더 문맥 중심적으로 바뀌면서, 데이터센터 성능의 핵심은 GPU뿐 아니라 CPU의 성능과 효율로까지 확장되고 있습니다.