메모리 기반 AI 에이전트의 편향성 제거 프레임워크
원제 Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy
추천 33댓글 2
Key Point
LLM 에이전트가 개인화와 장기 상호작용을 위해 메모리를 필요로 하는 만큼, 올바른 정보도 과도하게 따르게 만드는 구조적 결함을 해결하는 기술이 실무 적용 시 필수적이다.
핵심 요약
- LLM 기반 에이전트는 장기 메모리를 통해 과거 정보를 재사용하면서 사용자의 오래된 믿음에 무조건 따르는 '기억 유도 아첨(sycophancy)' 문제가 발생한다.
- 기존 방식은 잘못된 메모리를 필터링하려 했으나, 정확한 메모리도 문맥에 따라 해로울 수 있다는 점을 간과했다.
- KAIST·지린대 연구진이 이를 해결하기 위해 MemAdapter 프레임워크를 제안했다.
- MemAdapter는 세 가지 방식으로 작동한다: (1) 반사실적 추론으로 메모리의 잠재적 위험 파악, (2) 현재 작업에 맞춰 메모리의 영향력을 조정하는 문맥 인식 성찰, (3) 메모리의 정당한 영향을 유지하면서 증거 기반 답변 생성.
- 세 개 벤치마크에서 실험한 결과 MemAdapter는 다양한 시나리오에서 메모리 신뢰성을 일관되게 개선했다.
- 코드는 GitHub에 공개되어 있다.