weave-os/router
에이전트 시스템용 모델 라우터 오픈소스 공개
원제 weave-os/router
스타 5,158당일 +154Go
Key Point
프롬프트마다 최적의 모델을 자동 선택해 비용 절감과 성능을 동시에 달성하는 방식이 개발 생산성에 미치는 임팩트가 크다.
핵심 요약
- Weave OS가 개발한 모델 라우터는 프롬프트를 적절한 LLM으로 50밀리초 이내에 라우팅한다.
- 엔드포인트 변경만으로 API 비용을 40~70% 절감할 수 있다.
- 에이전트 시스템에서 여러 모델의 강점을 자동으로 활용해 효율성을 높인다.
저장소 보기 ↗github.com