AI 에이전트의 토큰 낭비 줄이는 'SparseRead' 기술
원제 Read Less, Solve More: Token-Efficient Sparse Reading of External Content for AI Agents
추천 22댓글 12
Key Point
AI 에이전트의 컨텍스트 윈도우를 낭비하는 핵심 원인을 해결하면서 성능 손실 없이 비용과 속도를 획기적으로 개선하는 기술이 실증되었다.
핵심 요약
- 웹사이트, 문서, 저장소, 도구 응답 등 외부 콘텐츠를 읽을 때 AI 에이전트가 필요한 부분만 처리하지 못하고 전체를 노출받으면서 토큰과 지연 비용이 증가하는 문제를 다룬다.
- SparseRead는 에이전트 모델 수정 없이 콘텐츠 입력을 제어하는 별도 계층으로, Read Intent Protocol이 에이전트의 변화하는 요구사항을 추적하고 소스 범위를 파악한다.
- Adaptive Reader Backends가 증거 위치를 선택하고 노출 방식을 결정하며, Budgeted Read Gate가 에피소드당 누적 노출을 제한하되 필요시 전체 콘텐츠도 제공한다.
- 여러 이질적인 리소스에서 증거 수집하는 통일된 Reader 인터페이스를 지원하고, 세 가지 에이전트 프레임워크와 호환된다.
- Claude Opus 5 포함 6개 모델과 5개 시나리오에서 전체 토큰을 최대 92.9%, 실행 시간을 최대 89.0% 감소시키면서 97% 설정에서 작업 품질을 유지하거나 개선했다.
- 웹 심층 검색 작업에서는 토큰 31.0~43.0%, 작업 완료 시간 23.0~37.0%를 단축했으며, 세 가지 설계 요소 각각의 효과를 검증했다.