375개 AI 제공업체를 하나의 엔드포인트로 관리하는 무료 게이트웨이 OmniRoute

핵심 요약

• 다양한 AI API 제공업체 375개(150개 이상 무료)를 단일 엔드포인트로 라우팅하는 오픈소스 게이트웨이 OmniRoute를 발표했다.
• Claude, GPT, Gemini, Kimi, GLM, DeepSeek, MiniMax 등 1,400개 이상 모델을 지원하며 Claude Code, Cursor, Cline 등 다양한 코딩 에디터와 호환된다.
• 연결된 제공업체의 무료 티어를 조합해 월 약 1.62억 토큰을 무료로 사용 가능하며, 할당량 자동 감지 및 자동 폴백으로 중단 없는 서비스를 보장한다.
• RTK+Caveman 압축으로 토큰 사용량을 15~95% 절감할 수 있고, MCP 및 A2A 지원으로 로컬 및 클라우드 환경에서 모두 작동한다.
• 20가지 라우팅 전략(우선순위, 가중치, 라운드로빈, 비용 최적화 등)을 지원하며, 'auto' 모델을 사용하면 16가지 요소(건강도, 할당량, 비용, 지연시간 등)를 기반으로 자동 선택된다.
• 별도 설정 없이 'auto/coding', 'auto/fast', 'auto/cheap' 등 목표에 맞는 변형 라우팅을 선택할 수 있다.
• 3계층 독립적 안정성 메커니즘으로 제공업체 장애 시 자동 폴백하며, 프롬프트 캐시 최적화, 컨텍스트 릴레이 등으로 비용을 추가 절감한다.
• Kimi(Moonshot AI)와 Cheaper Inference가 오픈소스 파트너로 개발을 지원하고 있다.
• v3.8.53부터 헤드리스 모드, 모델 검색 API, 릴리스 채널별 LTS 인프라 등 새로운 기능이 추가되었다.
• MIT 라이선스로 무료 공개되며 900명 이상의 기여자가 참여하고 있다.