장기 작업 수행하는 AI 에이전트, 명시적 신념 상태로 더 정확해진다

핵심 요약

• LLM 기반 에이전트가 복잡한 작업을 수행할 때 상호작용 이력을 단순히 메모리에 저장하는 것만으로는 현재 세계 상태를 일관되게 이해하기 어렵다.
• 새로운 프레임워크 PoS는 추론 과정에서 명시적 신념 상태(explicit belief states)를 구성하고 지속적으로 유지한다.
• 각 신념은 현재 세계 상태 추정치와 해결되지 않은 작업 요구사항을 결합하여, 에이전트가 여전히 학습해야 할 것과 달성해야 할 것을 명확히 한다.
• PoS는 신념의 일관성을 검증하고 작업 진행 상황을 모니터링하여 'Belief Trapping'(의미 있는 진전 없이 계속 행동하는 상태)을 감지한다.
• 탐지된 트래핑의 패턴과 미해결 작업 요구사항 유형에 맞춘 맞춤형 복구 메커니즘을 실행한다.
• 실행(execution) 및 진단(diagnosis) 작업을 다루는 4개 벤치마크에서 3가지 LLM 백본 모두와 함께 모든 벤치마크에서 최고의 전반적 성능을 달성했다.
• 절제 실험에서 일관성 검증과 복구 메커니즘의 중요성이 입증되었으며, 맥락 확장 실험에서 맥락 증가에 대한 탄력성을 보였다.
• 이 결과들은 신념 구성과 지속적 유지가 단순 이력 보존 및 압축을 넘어 장기 맥락 관리의 기초가 될 수 있음을 시사한다.