AI 에이전트 토큰 압축 도구 Headroom 공개

핵심 요약

• Headroom은 AI 에이전트가 읽는 도구 출력, 로그, RAG 청크, 파일, 대화 기록을 LLM에 도달하기 전에 압축한다.
• 코딩 에이전트는 토큰 20% 절감, JSON은 60~95% 절감하면서 같은 답을 얻는다.
• Python 라이브러리, HTTP 프록시, MCP 서버의 세 가지 형태로 제공되며 압축은 사용자 머신에서 실행되어 프롬프트나 파일 내용이 외부로 전송되지 않는다.
• ContentRouter가 콘텐츠 타입을 감지하고 SmartCrusher(JSON), CodeCompressor(소스 코드), Kompress-v2-base(문서)가 각각 담당한다.
• 실제 시나리오 테스트에서 코드 검색 21%, SRE 디버깅 57%, 코드베이스 탐색 42%, GitHub 이슈 분류 30%의 토큰을 절감했다.
• 압축 비용은 10K 토큰 JSON에서 0.21ms, 100K 토큰에서 1.4ms로 에이전트 지연에 영향을 주지 않는다.
• 정확성 평가에서 GSM8K(수학) 87%, TruthfulQA(사실성) 53~56%, SQuAD(질답) 97%(19% 압축), BFCL(도구) 97%(32% 압축)을 달성했다.
• 출력 토큰도 줄이는데, '~라고 하겠습니다' 같은 전치사를 제거하고 단순 작업(파일 읽기, 테스트 통과)에서는 사고 토큰 수준을 낮춘다.
• Claude Code, Cursor, Aider, OpenCode, Cline, Continue, Goose, OpenHands, Grok CLI, GitHub Copilot 등 주요 에이전트와 호환된다.
• CCR(Cached Content Retrieval) 기능으로 압축된 원본을 로컬에 캐시해두고 필요시 에이전트가 원문을 복구할 수 있다.
• `headroom learn`은 실패한 세션을 분석해 CLAUDE.local.md 등 파일에 교정 사항을 자동 기록한다.
• Python 3.10+ 필요하며 pip 또는 uv tool install로 설치 가능하고, 기존 코드 수정 없이 프록시 모드로도 사용 가능하다.
• Anonymous 비콘으로 압축률, 카운터, 제공자/모델 ID를 수집하지만 프롬프트, 완성본, 코드는 전송되지 않는다.