텍스트와 잠재 공간을 넘나드는 하이브리드 추론 에이전트
원제 Hybrid Reasoning Agents: LLM agents that think in latent space, act through text
158 포인트댓글 97
Key Point
텍스트만으로 처리하던 LLM 에이전트의 비효율성을 내부 잠재 추론과 외부 텍스트 상호작용으로 분리해 대폭적인 속도와 비용 개선을 달성한 새로운 에이전트 아키텍처이다.
핵심 요약
- 기존 LLM 에이전트는 추론과 상호작용을 모두 텍스트로 처리하는데, 효율적인 내부 추론 방식(잠재 공간 추론)과 도구 접근성 사이의 불균형이 있다.
- HybridAgents는 하나의 생성 과정 내에서 잠재 추론과 텍스트 기반 상호작용을 동적으로 전환하는 구조를 제시한다.
- HybridLink라는 경량 모듈이 텍스트와 잠재 모드 간 원활한 전환을 가능하게 하며, 지속적인 작업 메모리가 여러 턴에 걸쳐 손실 없는 하이브리드 문맥을 유지한다.
- 이 설계는 도구 접근성을 보존하면서 잠재 사고를 검사 가능하게 한다.
- HybridSFT는 HybridLink와의 조율을 학습하여 도구 통합 하이브리드 생성을 안정화하고, HybridRL은 잠재 공간과 텍스트 사이 전환 시점을 학습하여 추론을 확장한다.
- 수학, 과학, 의학, 검색, 에이전트 추론을 포함한 11개 벤치마크에서 세 가지 모델 규모로 평가했다.
- 기존 텍스트 기반·잠재 추론 방식의 최첨단 LLM 에이전트 및 에이전트 프레임워크 대비 성능이 10.4% 향상되었다.
- 토큰 사용량은 35.5%-54.7% 감소, 추론 속도는 1.8배~2.6배 빨라졌으며, 비용은 2.7배~3.7배 절감된다.
- 코드와 데이터는 공개되어 있다.