텍스트와 잠재 공간을 넘나드는 하이브리드 추론 에이전트
원제 Hybrid Reasoning Agents
추천 28댓글 2
Key Point
LLM 에이전트의 추론 효율성과 투명성을 동시에 높이는 새로운 아키텍처로, 토큰 절감과 속도 개선이 이미 검증된 실질적인 개선 방안이다.
핵심 요약
- 현대 LLM 에이전트는 텍스트로만 추론하고 상호작용하지만, 잠재 공간 추론은 효율적이면서도 도구 접근과 추론 투명성이 부족한 문제를 해결하기 위해 하이브리드 추론 에이전트(HybridAgent)가 제안됐다.
- HybridAgent는 통합 생성 프로세스 내에서 잠재 추론과 텍스트 기반 상호작용을 동적으로 전환하며, 가벼운 HybridLink가 두 모드 간 seamless한 전환을 가능케 한다.
- 에이전트의 지속적 작업 메모리는 다중 턴에서 손실 없는 하이브리드 컨텍스트를 유지하고, 도구 통합 기능을 보존하면서도 잠재 사고(latent thoughts)를 직접 검사할 수 있도록 설계됐다.
- HybridSFT 사후학습 알고리즘은 도구 통합 하이브리드 생성을 안정화하고, HybridRL은 잠재 공간에서 언제 추론할지, 텍스트를 통해 언제 행동할지를 학습해 추론을 확장한다.
- 수학, 과학, 의학, 검색, 에이전트 추론을 포함한 11개 벤치마크 3가지 모델 규모에서 평가 결과, HybridAgent는 최신 LLM 에이전트 대비 성능을 10.4% 개선했다.
- 동시에 토큰 사용량을 35.5%~54.7% 감소, 추론 속도를 1.8배~2.6배 향상, 비용을 2.7배~3.7배 절감했다.