“우리는 두 가지를 모두 사용할 수 있는 세상을 좋아한다”: Nvidia가 로컬 모델과 프런티어 모델을 바라보는 방식

엔비디아는 기업용 AI가 각 작업을 가장 적합한 모델로 보내는 하이브리드 구조로 진화할 것이라고 본다.

단순한 요청은 빠른 로컬·오픈 모델로, 더 어려운 문제는 프런티어 모델로 라우팅하는 방식이다.

조이 콘웨이는 이 구조가 비용과 지연 시간을 줄이고 민감한 데이터를 내부에 보관하게 해준다고 설명했다.

엔비디아는 잘 튜닝된 오픈 모델 시스템이 기업 업무에서 폐쇄형 모델과 맞먹을 수 있다고 강조했다.