LLM 에이전트의 잘못된 기억 문제를 원본 궤적으로 검증하기
원제 Don't Just Trust Your Memory: Evidence-Linked Memory Reduces Memory-Induced Degradation in LLM Agents
추천 70댓글 7
Key Point
LLM 에이전트의 경험 학습 시스템이 오히려 성능을 떨어뜨리는 역설적 문제를 해결하는 실질적 방법을 제시하기 때문에, 생산 환경의 에이전트 신뢰성 향상에 직접 적용할 수 있다.
핵심 요약
- LLM 에이전트가 과거 작업 경험을 교훈으로 저장해 새 작업에 활용하는 외부 메모리 시스템은 학습을 가능하게 하지만, 잘못된 교훈을 따르거나 유효한 교훈을 잘못 해석하면서 본래 풀 수 있는 작업을 실패하는 메모리 유도 성능 저하(memory-induced degradation) 문제를 유발한다.
- 기존 방식은 작업 성공/실패로만 레이블된 궤적에서 교훈을 추론하고, 원본 궤적 없이 교훈만 제공하기 때문에 에이전트가 교훈을 검증할 방법이 없다.
- 이를 해결하기 위해 연구진은 WikiTrace를 제안했으며, 이는 각 교훈을 원본 궤적의 요약본과 원본 궤적 자체로 연결한 증거 기반 메모리 시스템이다.
- WikiTrace에서 에이전트는 새 작업 시 모든 교훈에서 시작하고, 교훈이 세부 사항을 누락하거나 다른 교훈과 충돌하거나 실패한 작업에서 나온 경우 연결된 링크를 따라 원본 궤적으로 내려가 누락된 세부 사항을 채우거나 교훈을 수정한 후 행동한다.
- 5개 에이전트 벤치마크에서 WikiTrace는 기존 메모리 방식과 같은 교훈만 제공받은 기준선을 일관되게 상회했으며, 메모리 유도 성능 저하도 감소시켰다.