modelflare-ai/AnyModelBot
로컬에서 70개 이상 AI 모델을 다루는 오픈소스 에이전트 봇
원제 modelflare-ai/AnyModelBot
스타 2,738Python
Key Point
로컬에서 실행되는 오픈소스 AI 에이전트로 구독료 없이 여러 모델을 자유롭게 선택할 수 있으며, 개인 정보와 파일이 사용자 기기에만 남는 점이 클라우드 기반 경쟁 제품과 차별화된다.
핵심 요약
- 본인 컴퓨터에서 실행되는 AI 에이전트 플랫폼 AnyModelBot을 공개했으며, MIT 라이선스 오픈소스로 Windows·macOS·Linux와 Docker를 지원한다.
- 각 봇은 고유한 페르소나·기본 모델·작업 공간·메모리를 가지며 파일 읽기/쓰기, 명령 실행 같은 작업을 수행할 수 있고 권한은 읽기 전용·작업 공간 한정·완전 권한 3단계로 나뉜다.
- 대화·기억·파일·API 키는 모두 기기에 남아있으며 모델 요청만 Modelflare 게이트웨이 또는 사용자의 공식 API 키를 통해 외부로 나간다.
- GPT·Claude·Gemini·Grok·DeepSeek·Kimi·GLM 등 70개 이상 모델을 Modelflare 통합 계정 1개로 관리하거나 각 제공사의 공식 키로 직접 연결할 수 있다.
- 백그라운드 작업·정시 규칙·전자 결재 시스템으로 에이전트가 자동 실행되며 필요 시에만 사용자에게 보고하고, 마감 예산을 설정해 비용 초과를 방지한다.
- 미니 봇 4개(실사 조사 보조·PPT 제작·영상 제작·미국주 분석 리포트)를 발견 페이지에서 바로 쓸 수 있다.
- 데스크톱 앱·CLI·Docker·웹 콘솔 4가지 방식으로 실행 가능하며 WeChat·Feishu·Telegram·Slack·Discord 채널을 통해 접근할 수 있다.
- Modelflare는 OpenAI 우선·안정·고급 3개 분류로 일일 캐시 명중률을 보장(각 65%·75%·85%)하고 미달 시 차액을 환급해준다.
- xAI의 Grok Bot·OpenAI의 dots·Anthropic의 Claude Duet과 달리 오픈소스이며 사용자 기기에서 실행되고 구독료 없이 사용량 기반 요금이다.
- DeepSeek Harness가 에이전트 런타임을 담당하며 내장 Cua Driver로 데스크톱 제어(macOS는 베타)를 지원하고 화면 스크린샷은 사용자 승인 없이 캡처된다.
- Notion·Feishu 계정 추가 후 봇이 그 콘텐츠를 읽고 모델 요청에 포함시킬 수 있으며, 다중 플랫폼 계정은 설정에서 한 번만 추가하면 모든 봇이 공유한다.
저장소 보기 ↗github.com