LLM 에이전트의 추론 오염 문제, 세계 모델로 해결
원제 Agent-Editing World Model: Rethinking World Modeling for LLM Agents
추천 13댓글 1
Key Point
LLM 에이전트의 성능을 좌우하는 상태 오염 문제를 근본적으로 해결하는 새로운 접근으로, 추론 과정의 오류 수정이 실제 의사결정 개선으로 이어지는 메커니즘을 제시한다.
핵심 요약
- LLM 에이전트가 장기 작업을 수행할 때 과거 계획의 오류가 현재 결정을 왜곡하는 '작업 상태 오염' 문제를 지적했다.
- 기존 세계 모델은 도구 응답을 예측하려 했으나, AEWM(Agent-Editing World Model)은 추론과 행동이 작업 진행도에 미치는 영향을 모델링한다.
- Action Judge 모듈이 의사결정을 중요·탐색·노이즈 세 가지로 분류하고, State Revision이 노이즈 추론을 편집해 올바른 상태를 복원한다.
- EditAct는 모델의 판단을 실제 실행과 통합해 비판만 제공하는 대신 기본 상태를 직접 변경한다.
- 검색·터미널·소프트웨어 엔지니어링 분야에서 액션 판단 벤치마크에 70.5% F1 스코어를 달성했고, 6개 벤치마크에서 기존 방식 대비 3.2~6.7점 향상했다.