xMemory가 AI 에이전트의 토큰 비용과 컨텍스트 부풀림을 줄이는 방법
How xMemory cuts token costs and context bloat in AI agents
TL;DR AI
2분핵심 요약
XMemory 개발되었다 xMemory는 King's College London과 The Alan Turing Institute 연구진이 개발했다.
대화를 네 수준 계층으로 조직한다 xMemory는 대화 내용을 테마·시맨틱·에피소드·원시 메시지의 네 수준 계층으로 조직한다.
위계적 상향식(Top-down) 검색을 수행한다 검색은 테마와 시맨틱 수준에서 시작해 필요하면 에피소드·메시지 단계로 내려간다.
일부 작업에서 토큰 사용량을 9,000+에서 약 4,700로 감소시켰다 연구진은 일부 작업에서 기존 시스템 대비 쿼리당 토큰 사용량을 9,000여 개 이상에서 약 4,700개로 줄였다고 보고했다.
여러 LLM에서 답변 품질과 장거리 추론을 개선했고 추론 비용을 낮췄다 실험에서 xMemory는 여러 LLM에서 답변 품질과 장거리 추론 성능을 개선하면서 추론 비용을 낮췄다.