LLM 에이전트의 메모리를 작업에 맞춰 실시간 선별하기

핵심 요약

• 기존 에이전트 메모리 시스템은 작업 완료 후 궤적을 고정된 형태(반성, 워크플로우, 스킬 등)로 정제하므로, 향후 쿼리를 알 수 없는 상태에서 무엇을 기억할지 결정해야 한다.
• 이 방식은 정보 손실을 초래하고, 쓰기 단계의 큐레이터를 학습하기 어렵다. 저장 결정의 가치가 훨씬 나중에 관련 쿼리가 도착할 때만 명확해지기 때문이다.
• 제안하는 JitMem(Just-in-Time Memory)은 원본 궤적을 그대로 보관했다가 읽을 때까지 정제를 미룬다.
• 읽기 단계에서 현재 작업이 알려지면, 메모리 큐레이터가 검색된 흔적과 새 작업으로부터 즉각적인 필요에 맞춘 컴팩트한 페이로드를 합성한다.
• 이 페이로드는 같은 작업에서 즉시 소비되므로, 큐레이터를 지연된 신호 없이 즉각적인 작업 성공으로 직접 학습할 수 있다.
• ALFWorld, WebShop, τ²-bench에서 JitMem은 메모리가 없는 에이전트, 휴리스틱 방식, 기존 학습 기반 쓰기 단계 메모리를 모두 능가했다.
• 성공률 개선폭은 각각 16.2%, 16.3%, 3.9% 포인트였다.
• 학습하지 않은 큐레이터도 기존 방법들과 동등하거나 이를 넘어서, 작업 적응형 읽기 단계 정제 자체가 주된 이득의 원천임을 보여준다.