다양한 AI 모델을 한 곳에서 통합 관리하는 게이트웨이

핵심 요약

• New API는 OpenAI, Claude, Gemini 등 서로 다른 LLM들을 호환 가능한 포맷으로 변환해주는 통합 AI 모델 허브다.
• 조직 수준의 토큰 관리, 모델별 제한, 사용자 권한 관리를 지원하며 요청별·사용량 기반 정산과 캐시 비용 계산 기능을 제공한다.
• Discord, LinuxDO, Telegram, OIDC 등 다양한 인증 방식을 지원하고 OpenAI Realtime API를 포함한 여러 API 포맷을 호환한다.
• Go 언어로 개발되었으며 Docker Compose로 쉽게 배포할 수 있고, 간편한 웹 UI와 시각화된 데이터 대시보드를 제공한다.
• 개인 사용자의 AI API 게이트웨이 구축부터 기업 수준의 모델 관리, 프라이빗 배포까지 다양한 시나리오를 지원한다.