PEEK: 긴 문맥 LLM 에이전트를 위한 오리엔테이션 캐시로서의 컨텍스트 맵
PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents
TL;DR AI
1분핵심 요약
연구진이 장문 컨텍스트 LLM 에이전트를 위한 영속적 컨텍스트 캐싱 시스템 PEEK를 공개했다.
PEEK는 distiller, cartographer, evictor가 관리하는 고정 크기 프롬프트 아티팩트에 압축된 방향성 지식을 저장한다.
장문 컨텍스트 추론, 정보 집계, 컨텍스트 학습 평가에서 PEEK는 ACE 같은 강력한 기준선을 능가했다.
개선 효과는 다양한 모델과 에이전트 설정 전반에 걸쳐 유지됐고, 반복 횟수와 비용은 더 적었다.