Hugging Face 논문AI · 머신러닝

AI 에이전트의 토큰 낭비 줄이는 'SparseRead' 기술

원제 Read Less, Solve More: Token-Efficient Sparse Reading of External Content for AI Agents

추천 22댓글 12Zedong Liu, Jiaan Wu, Xinyang Ma 외
Key Point

AI 에이전트의 컨텍스트 윈도우를 낭비하는 핵심 원인을 해결하면서 성능 손실 없이 비용과 속도를 획기적으로 개선하는 기술이 실증되었다.

핵심 요약

  • 웹사이트, 문서, 저장소, 도구 응답 등 외부 콘텐츠를 읽을 때 AI 에이전트가 필요한 부분만 처리하지 못하고 전체를 노출받으면서 토큰과 지연 비용이 증가하는 문제를 다룬다.
  • SparseRead는 에이전트 모델 수정 없이 콘텐츠 입력을 제어하는 별도 계층으로, Read Intent Protocol이 에이전트의 변화하는 요구사항을 추적하고 소스 범위를 파악한다.
  • Adaptive Reader Backends가 증거 위치를 선택하고 노출 방식을 결정하며, Budgeted Read Gate가 에피소드당 누적 노출을 제한하되 필요시 전체 콘텐츠도 제공한다.
  • 여러 이질적인 리소스에서 증거 수집하는 통일된 Reader 인터페이스를 지원하고, 세 가지 에이전트 프레임워크와 호환된다.
  • Claude Opus 5 포함 6개 모델과 5개 시나리오에서 전체 토큰을 최대 92.9%, 실행 시간을 최대 89.0% 감소시키면서 97% 설정에서 작업 품질을 유지하거나 개선했다.
  • 웹 심층 검색 작업에서는 토큰 31.0~43.0%, 작업 완료 시간 23.0~37.0%를 단축했으며, 세 가지 설계 요소 각각의 효과를 검증했다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗