장시간 작업용 LLM 에이전트, 실행 상태를 메모리처럼 재사용
원제 FlowState: Execution State as Memory for Long-Horizon LLM Agents
추천 22댓글 4
Key Point
장시간 작업에서 LLM 에이전트의 맥락 길이 문제를 해결하는 새 방식이 기존 방법 대비 성능과 효율성 모두에서 실질적 개선을 보여주기 때문이다.
핵심 요약
- 장시간 작업을 수행하는 LLM 에이전트는 과거 상호작용 정보를 계속 참고해야 하지만, 전체 히스토리 보관은 맥락 비용을 늘리고 압축하면 필요한 세부사항을 잃을 수 있다.
- FlowState는 실행 상태를 메모리로 취급해 요청 간에 유지하고 재방문할 수 있으며, 의미론적으로 타입된 상태 노드·관계·도구 관찰 참조를 보존해 필요 시에만 접근하도록 분리한다.
- Incremental State Update(ISU)는 실행 루프 내에서 새 입력과 피드백에 따라 현재 상태를 유지하고, Progressive State Access(PSA)는 추론 중 필요에 따라 과거 상태와 근거를 점진적으로 공개한다.
- 이를 통해 에이전트는 새로운 정보에 비춰 과거 결정을 재평가하고 이후 행동을 지도할 수 있다.
- DeepSeek-V4-Flash 모델 기준으로 MemoryArena에서 성공률을 4.55 포인트, τ³-Bench에서 통과율을 13.95 포인트 향상시키면서 전체 토큰 소비를 각각 43.2%, 40.6% 감소시켰다.