모델 파라미터의 0.12%로 구현한 LLM 에이전트 메모리
LLM agent memory at 0.12% of model parameters
TL;DR AI
1분핵심 요약
연구진이 LLM 에이전트의 대화 이력을 고정 크기 행렬로 압축하는 경량 메모리 모듈 delta-mem을 제안했다.
기본 모델은 고정한 채 백본 파라미터의 0.12%만 사용하면서, 메모리 벤치마크에서 더 강한 기준선을 앞섰다.
이 방식은 코딩·데이터 분석 에이전트에 더 저렴하고 지연이 낮은 장기 기억을 제공해, 초대형 컨텍스트 창이나 RAG 의존도를 줄일 수 있다.
특히 컨텍스트를 저장하고 재활용하는 것이 중요한 엔터프라이즈 워크플로에서 유용할 수 있다.