LLM 에이전트의 메모리 피드백 악순환, 새로운 설계로 극복

핵심 요약

• LLM 에이전트가 외부 메모리에 실행 경험을 저장해 이후 결정을 가이드할 때, 단순 궤적과 결과뿐 아니라 추론된 규칙·요약·스킬도 함께 보관할지가 핵심 설계 문제다.
• 추상화된 정보를 저장하면 원시 궤적에서 매번 유도할 필요 없이 전략을 재사용할 수 있지만, 저장된 추상화의 오류가 검색·재사용을 통해 후속 결정에 전파될 수 있다.
• 더 큰 문제는 '오류 재현(error reproduction)'이라는 피드백 루프다: 저장된 결함 있는 지식이 실행 궤적을 왜곡하고, 그 왜곡된 궤적에서 다시 추상화되며 원래 오류가 재생성되고 지속된다.
• 이를 해결하기 위해 연구팀은 'Anti-Persistence' 메모리 설계를 제안했다: 궤적과 결과는 축적하되, 작업별 가이던스는 필요할 때마다 새로 생성하고 실행 후 버린다.
• 적응형 선택기가 과거 결과를 바탕으로 가이던스를 합성할지, 어떻게 할지 결정하며, 이를 저장 객체로 직접 재사용하지 않음으로써 오류 직접 전파를 차단한다.
• 여러 벤치마크와 모델에서 Anti-Persistence는 기존 메모리 설계 대비 더 높은 성공률과 최저 LLM 호출 비용을 달성했다.
• 이 결과는 메모리 기반 자체 개선에서 경험 축적과 추상화 저장을 분리하는 것의 중요성을 보여준다.