에이전틱 AI 시스템은 한계 토큰 할당자로 설계해야 한다
Agentic AI Systems Should Be Designed as Marginal Token Allocators
TL;DR AI
1분핵심 요약
이 포지션 페이퍼는 에이전틱 AI를 라우팅, 계획, 서빙, 학습 전반의 단일 토큰 할당 경제로 바라봐야 한다고 주장한다.
각 계층은 단순히 출력 품질을 극대화하기보다 한계 효용을 비용, 지연, 위험과 함께 최적화해야 한다.
논문은 과도한 라우팅, 검증 부족, 서빙 스택의 혼잡 같은 대표적 실패 사례를 짚는다.
이 관점은 컴퓨팅 효율을 높이고 평가·학습·위험 인지 RL 설계를 개선하는 데 도움이 될 수 있다.
