장기 작업 AI, 히스토리 대신 객체로 문맥 정리
원제 Pack Light, CarryOn: Building Object-Oriented Context for Long-Horizon Agents
추천 101댓글 3
Key Point
컨텍스트 윈도우 제약이 있는 LLM 기반 에이전트에서 긴 작업 수행 시 토큰 사용량을 절반 이상 줄이면서 오히려 성능을 높이는 새로운 접근법이다.
핵심 요약
- 장기 작업을 수행하는 AI 에이전트는 누적된 진전을 기록하는 긴 상호작용 히스토리를 반복해서 처리해야 한다는 문제가 있다.
- CarryOn은 히스토리 대신 재사용 가능한 작업 객체를 중심으로 문맥을 조직하는 객체 지향 문맥 런타임이다.
- 기존 방식의 압축된 히스토리나 재구성된 진전 기록 대신, 재사용 가능한 작업 객체, 보완 실행 문맥, 최근 상호작용 로그로 문맥을 구성한다.
- 히스토리를 삭제할 때 재사용 가능한 객체를 유효하게 유지하기 위해 CarryOn은 객체 레코드를 추적하면서 증거와 환경 점검으로 검증하고 영향받지 않은 레코드는 그대로 유지한다.
- OSWorld 2.0에서 5.8%, BrowseComp-Plus에서 7.0% 성능이 개선되면서 토큰 사용량은 각각 51.9%, 22.9% 감소했다.