LLM 에이전트의 메모리를 작업에 맞춰 실시간 선별하기
Key Point
메모리 정제 시점을 쓰기에서 읽기로 옮겨 작업 특화 큐레이션을 가능하게 하는 새로운 접근이 LLM 에이전트의 성능을 크게 향상시킨다.
핵심 요약
- 기존 에이전트 메모리 시스템은 작업 완료 후 궤적을 고정된 형태(반성, 워크플로우, 스킬 등)로 정제하므로, 향후 쿼리를 알 수 없는 상태에서 무엇을 기억할지 결정해야 한다.
- 이 방식은 정보 손실을 초래하고, 쓰기 단계의 큐레이터를 학습하기 어렵다. 저장 결정의 가치가 훨씬 나중에 관련 쿼리가 도착할 때만 명확해지기 때문이다.
- 제안하는 JitMem(Just-in-Time Memory)은 원본 궤적을 그대로 보관했다가 읽을 때까지 정제를 미룬다.