LLM 라우팅의 실행 방식까지 함께 학습하는 RouteWeaver
원제 RouteWeaver: Weaving Mode Selection and Execution into Unified LLM Routing
추천 24댓글 2
Key Point
여러 LLM을 효율적으로 활용하려는 개발자들에게 실행 방식까지 동적으로 선택하는 새로운 라우팅 프레임워크가 어떻게 작동하는지 알려준다.
핵심 요약
- LLM 라우팅은 여러 언어 모델을 동적으로 선택해 다양한 작업을 수행하지만, 기존 방식들은 단일라운드·다중라운드·에이전트 방식 등 고정된 실행 패러다임에 얽혀 있어 쿼리의 다양한 요구에 적응하기 어렵다.
- RouteWeaver는 이러한 라우팅 방식들을 하나의 LLM 정책으로 통합하며, 어떤 방식을 쓸지와 그 방식 내에서 어느 모델을 선택할지를 함께 학습한다.
- COMET-GRPO(COordinated Mode-Execution Training) 학습 알고리즘은 궤적 단위의 이득값을 방식 선택과 방식 내 실행의 별도 신호로 분해해 각 결정 단계에 더 정확한 학습 신호를 전달한다.
- 점진적 탐색(progressive exploration) 기법을 도입해 외부에서 지정된 방식부터 시작해 자율 선택으로 점차 전환하므로, 라우터가 각 방식을 먼저 실행할 줄 배운 후 언제 쓸지를 배운다.
- RouteWeaver는 수학·코딩·지식·논리 추론·사실 회상 다섯 영역에서 평가되었으며, 평균 정확도 61.4%로 가장 강력한 기존 방식 대비 11.03% 상대 향상을 달성했다.
- 다섯 영역 모두에서 비교 대상 기법들을 능가했으며, COMET-GRPO와 점진적 탐색이 모두 중요함을 확인했다—점진적 탐색 없으면 라우팅이 단일라운드 방식으로 완전히 붕괴된다.