AI 시스템이 상황마다 최적의 모델을 고르는 법
원제 Route Anything: A Study of Model and Policy Routing for General-Purpose AI Systems
추천 87댓글 1
Key Point
다양한 AI 작업을 하나의 시스템으로 처리할 때 여러 모델 중 각 상황에 맞는 것을 자동으로 선택하는 기법이 실제로 얼마나 효과적인지 처음 대규모 검증했기 때문이다.
핵심 요약
- 통용 AI 시스템이 다양한 도메인과 모달리티를 다루려면 여러 전문 모델과 도구를 조율하는 라우팅 기법이 필요하다.
- Route Anything은 모델과 정책 라우팅을 통일된 프레임워크로 연구하며, 품질-비용 균형 속에서 최적 라우팅 조건을 수학적으로 규명한다.
- 언어 이해, 이미지·비디오·음성 생성, 코딩 에이전트, 로봇 조작 등 25개 벤치마크에서 452개 후보 모델 조합으로부터 37만 4401건의 평가 데이터를 수집했다.
- 라우터 없이 최고 성능 모델 하나를 쓸 때보다 오라클 라우팅(최적 선택)은 성능을 5.4포인트 향상시킨다.
- 학습된 라우터는 16개 벤치마크에서 0.3포인트, 비디오 생성에서 2.1포인트, 로봇 조작에서 1.1포인트 향상시키면서 정책 실행 시간을 24% 줄인다.
- 전체적으로 라우팅을 도입하면 참조 모델 대비 평균 효율성이 8.82배 상승한다.