쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 23일 (수)까지885건
22건 · "자체 호스팅"조건 지우기 ×
001당일 +174AI가 추천하는 주식 매매, 자체 서버에서 관리한다자체 호스팅 가능한 AI 투자 보조 도구로, TradingAgents 멀티 에이전트를 통합해 기술·감정·뉴스·펀더멘털 분석가 4명이 투자 판단을 논의하고 풍험 관리 후 최종 결정안을 도출한다.AI · 머신러닝 · TNT-Likely/PanWatch · Python
AI가 추천하는 주식 매매, 자체 서버에서 관리한다
Key Point자체 서버 배포로 투자 데이터 프라이버시를 확보하면서도 AI 멀티 에이전트가 복합 분석을 자동화해주는 방식이 기존 투자 앱과 다르다.
핵심 요약
- 자체 호스팅 가능한 AI 투자 보조 도구로, TradingAgents 멀티 에이전트를 통합해 기술·감정·뉴스·펀더멘털 분석가 4명이 투자 판단을 논의하고 풍험 관리 후 최종 결정안을 도출한다.
- A주·홍콩주·미국주 실시간 감시, 복수 계좌 통합 관리, 기술 지표 공명 분석(MACD/RSI/KDJ), 조건부 가격 알림을 제공하며 결론을 Telegram·WeChat·DingTalk 등 채널로 푸시한다.
- Docker 한 줄 명령으로 배포되며, 보유 주식 데이터가 제3자를 거치지 않고 로컬에서만 처리되어 프라이빗하다.
- DeepSeek 기본값으로 추론 비용은 회당 약 $0.05이고, 월 예산 제어가 가능하며 OpenAI·Ollama 등 호환 LLM도 선택할 수 있다.
오픈소스 · 도구 · DuarteSantos8/openGym · JavaScript
자신의 서버에서 운영하는 운동 추적 앱 openGym
Key Point운동 기록 앱의 구독·광고·서버 종속성에서 벗어나 개인 서버에서 완전히 소유·제어할 수 있는 오픈소스 솔루션이 필요한 사용자들에게 유용하다.
핵심 요약
- Docker Compose로 쉽게 배포되는 자체 호스팅 운동·체중 추적 앱으로, 사용자 데이터는 자신의 서버에만 저장된다.
- FitNotes·Strong·Hevy 등에서 기존 운동 기록을 import할 수 있으며, 1,324개 운동의 애니메이션 설명과 신체 부위별 분류로 루틴을 계획한다.
- 세트별 RIR·RPE 색상 코딩, 수퍼세트·웜업 세트 지원, 운동 중 실시간 진행 상황 확인, 근피로도 히트맵·PR 추적 등의 기능을 제공한다.
- 근력 프로그레션 규칙 설정, 계획된 디로드, 개별 운동별 휴식시간 설정, 타이머 운동 지원 등으로 고급 트레이닝 기법을 지원한다.
- 패스키 로그인으로 보안하며, 오프라인 지원·기기 간 동기화·홈스크린 설치 가능 등 현대적 앱 경험을 제공한다.
오픈소스 · 도구 · CapSoftware/Cap · Rust
스크린 녹화의 오픈소스 대안 Cap, Loom 대체 솔루션 공개
Key Point데이터 소유권을 원하는 팀과 엔지니어들이 Loom의 폐쇄성에서 벗어나 완전히 제어 가능한 대체재를 찾고 있는 상황에서, 셀프 호스팅과 스토리지 자유도를 갖춘 성숙한 오픈소스 솔루션이 등장했습니다.
핵심 요약
- Rust 기반 오픈소스 스크린 녹화 도구 Cap이 Loom의 완전한 대체 솔루션으로 포지셔닝되고 있다.
- 즉시 모드(업로드하면서 녹화)와 스튜디오 모드(로컬 편집)로 나뉘어 빠른 피드백부터 고품질 편집까지 지원한다.
- Cap Cloud, S3 호환 스토리지, 자체 호스팅 등 다양한 데이터 소유 옵션을 제공하며 완전한 제어를 원하는 팀을 위해 설계됐다.
- macOS와 Windows 데스크톱 앱, 웹 대시보드, 자동 자막·요약 생성 AI, Loom 비디오 임포트 기능을 포함한다.
- Docker Compose, Railway, Coolify 등으로 셀프 호스팅 가능하며, Turborepo 모노레포 구조로 Rust·TypeScript·Tauri·Next.js 등 다양한 기술 스택으로 구성돼 있다.
오픈소스 · 도구 · every-app/open-seo · TypeScript
Semrush·Ahrefs 대체할 오픈소스 SEO 도구 'OpenSEO' 공개
Key PointSemrush와 Ahrefs처럼 비싼 구독료로 운영 중인 팀과 개인이 더 저렴한 대안을 직접 통제하면서 AI 에이전트와도 통합할 수 있는 선택지가 생겼다.
핵심 요약
- TypeScript로 만든 오픈소스 SEO 도구로, 비싼 상용 도구 대신 DataForSEO API 연동으로 실제 사용량만 지불하는 구조다.
- 키워드 리서치, 순위 추적, 경쟁사 분석, 백링크, 사이트 감사 등 주요 SEO 기능을 갖췄다.
- Claude Code·OpenClaw·Hermes 같은 AI 에이전트와 연동하는 MCP 서버를 제공하며, 커스텀 에이전트 스킬을 직접 만들 수 있다.
- 호스팅 버전은 월 10달러 구독료로 이용 가능하고, Docker나 Cloudflare를 통해 직접 자기 서버에 설치할 수도 있다.
- 자체 호스팅 시 DataForSEO API 비용만 지불하며, 호스팅 서비스 이용 시에는 API 요청당 28% 수수료가 추가된다.
인프라 · 데브옵스 · coder/coder · Go
자체 서버에서 개발 환경과 AI 에이전트를 운영하는 Coder
Key Point자신의 서버에서 개발 환경을 완전히 제어하고 싶거나 AI 코딩 에이전트를 내부 인프라에 안전하게 배포하려는 팀에게 필요한 솔루션입니다.
핵심 요약
- Coder는 Terraform으로 정의한 클라우드 개발 환경을 자체 인프라에서 호스팅할 수 있는 플랫폼입니다.
- EC2, Kubernetes, Docker 등 다양한 환경에서 워크스페이스를 구성하고, Wireguard 터널로 보안 연결을 제공합니다.
- 사용되지 않는 리소스는 자동으로 종료해 비용을 절감하고, 몇 초 만에 개발자를 온보딩할 수 있습니다.
- LLM 자체 호스팅 기능으로 Anthropic, OpenAI, Google, Bedrock 등 다양한 모델을 지원하며, 워크스페이스에는 API 키를 저장하지 않고 중앙 집중식 거버넌스를 제공합니다.
- AI 에이전트는 제어 평면에서 실행되어 워크스페이스 내 LLM 인증 정보 노출을 방지하고, 모든 작업에 사용자 신원을 기록합니다.
오픈소스 · 도구 · supabase/supabase · TypeScript
Supabase, Firebase 대체 오픈소스 플랫폼
Key PointFirebase에서 벗어나고자 하는 개발자들이 선택할 수 있는 완전한 오픈소스 백엔드 플랫폼이 어떻게 구성되어 있는지 알 수 있다.
핵심 요약
- Postgres 기반 개발 플랫폼으로 Firebase와 유사한 기능을 오픈소스 도구로 제공한다.
- 호스팅 Postgres 데이터베이스, 인증, REST/GraphQL API, 실시간 구독, 에지 함수, 파일 스토리지, AI 벡터 toolkit을 포함한다.
- PostgREST, GoTrue, Realtime, Storage 등 엔터프라이즈급 오픈소스 도구들을 조합하여 구성되어 있다.
- 클라우드 호스팅 및 자체 호스팅, 로컬 개발을 모두 지원하며 JavaScript/TypeScript 등 여러 언어용 클라이언트를 제공한다.
AI · 머신러닝 · TencentCloud/Octop · Python
텐센트 오픈소스 자체 호스팅 AI 어시스턴트 Octop 공개
Key Point자체 호스팅 AI 어시스턴트를 찾는 개발자와 소규모 팀에게 데이터 프라이버시를 보장하면서도 기업급 기능을 제공하는 실질적인 대안이 될 수 있기 때문입니다.
핵심 요약
- 텐센트가 다중 사용자·다중 에이전트 기반의 자체 호스팅 AI 어시스턴트 Octop을 오픈소스로 공개했다.
- 웹 대시보드, CLI, 페이슈·딩딩톡·디스코드·위챗 등 메신저 통합, 크론 자동화를 하나의 프로세스로 구동하며 모든 데이터는 로컬 ~/.octop/ 디렉토리에 저장된다.
- 16가지 MBTI 페르소나, 전문가 라이브러리, 보안 기반의 도구 승인·셸 명령어 가드레일·개인정보 자동 제거 기능을 탑재했다.
- Feishu·DingTalk·Tencent Docs 등 텐센트 생태계와 OAuth, MCP를 통한 확장, 그리고 브라우저·터미널·원격 데스크톱 AI+ 기능을 제공한다.
- FastAPI·React·SQLite(또는 PostgreSQL) 기반이며, 로컬 디스크·Docker·데이터베이스 등 다양한 백엔드를 지원한다.
AI · 머신러닝 · block/buzz · Rust
블록, AI 에이전트와 협업하는 워크스페이스 'Buzz' 공개
Key Point개발팀이 AI 에이전트와 실제로 협업할 수 있는 첫 실용적 플랫폼으로, 기존 채팅·포지·CI 도구들을 하나의 이벤트 로그로 통합해 감사 추적과 검색성을 혁신한다.
핵심 요약
- Block이 Nostr 릴레이 기반 워크스페이스 Buzz를 공개했다. 인간과 AI 에이전트가 같은 채널에서 협업하며 모든 메시지·승인·코드 변경을 서명된 이벤트로 기록한다.
- 에이전트는 채널 멤버처럼 작동하며 저장소 접근, 패치 전송, 코드 리뷰, 워크플로우 실행 같은 인간 팀원과 동일한 권한 범위를 갖는다.
- 기본 배포는 자체 호스팅 단일 릴레이이며, 멀티테넌트 운영 시에도 각 커뮤니티는 독립적 경계를 유지한다.
- 채널, 스레드, DM, 캔버스, 미디어, 검색, 감사 로그 등이 현재 동작하며, 모바일 클라이언트와 워크플로우 승인 게이트는 개발 중이다.
- Git 이벤트를 NIP-34 형식으로 저장하고, buzz-cli는 JSON 입출력 기반 에이전트 우선 설계로 Goose·Codex·Claude Code 같은 프레임워크와 통합된다.
오픈소스 · 도구 · rommapp/romm · Python
브라우저에서 게임을 바로 플레이, 자체 호스팅 ROM 관리자 RomM
Key Point레트로 게임 애호가라면 한 곳에서 여러 플랫폼의 롬을 관리하고 동기화하며 브라우저로 바로 플레이할 수 있는 솔루션이 필요한데, 이 프로젝트가 그 모든 기능을 오픈소스로 제공한다.
핵심 요약
- 자신의 서버에서 ROM 컬렉션을 스캔, 관리, 플레이할 수 있는 오픈소스 애플리케이션이다.
- EmulatorJS와 RuffleRS를 통해 브라우저에서 직접 게임을 실행할 수 있으며, 셋업이 필요 없다.
- IGDB, Screenscraper, LaunchBox, MobyGames 등 10개 이상의 메타데이터 제공자에서 게임 정보를 자동으로 수집한다.
- 400개 이상의 플랫폼을 지원하며 멀티디스크 게임, DLC, 롬핵, 번역본, 설명서까지 관리 가능하다.
- 여러 기기에서 저장 상태를 자동 동기화하며, 사용자별 권한 관리와 OIDC 싱글 사인온을 지원한다.
- AGPL-3.0 라이선스로 무료이며 트래킹 없이 개인 데이터를 완전히 통제할 수 있다.
인프라 · 데브옵스 · Notes on gotchas while migrating 35kb preprompts from Opus to self-hosted Ollama
클라우드 LLM에서 자체 호스팅 Ollama로 대규모 프롬프트 마이그레이션 시 주의사항
Key Point개인정보 보호와 보안이 중요한 기업들이 클라우드 LLM 의존도를 줄이고 자체 호스팅을 검토할 때 직면하는 실질적 장애물과 해결 방안을 다룬다.
핵심 요약
- Claude Opus에서 자체 호스팅 Ollama로 35KB 규모 프롬프트를 마이그레이션한 경험담.
- 개인 데이터뿐 아니라 에이전트 세션, 문제 해결 방법론 등 메타데이터도 inference 제공자에게 탈취될 수 있다는 우려.
- OpenAI와 Anthropic 같은 프론티어 제공자들이 사용자 데이터를 학습에 사용하고 있으며 개인 정보 보호 요구사항을 만족하려면 자체 하드웨어 운영이 필수.
- 프론티어 제공자들의 사이버보안 안전장치가 오히려 방어자들의 취약점 발견을 막아 전체 보안을 훼손한다고 주장.
- 보안 테스트와 취약점 탐지를 거부하지 않는 LLM 모델이 필요하며, 이는 CI/CD 파이프라인에서 자동 취약점 발견을 가능하게 함.
인프라 · 데브옵스 · dani-garcia/vaultwarden · Rust
Rust로 만든 Bitwarden 호환 비밀번호 관리 서버
Key Point자체 서버로 패스워드를 관리하려는 개발자나 조직에게 공식 서비스 대비 가볍고 저렴한 대안을 제공한다.
핵심 요약
- Bitwarden 공식 클라이언트와 호환되는 경량 서버 구현으로, 자체 호스팅에 최적화되어 있다.
- Personal Vault, Send, Attachments, Organizations 등 Bitwarden의 핵심 기능을 지원한다.
- Authenticator, FIDO2 WebAuthn, YubiKey, Duo 등 다양한 2FA 방식을 포함한다.
- Docker 컨테이너로 배포되며 HTTPS와 리버스 프록시 설정을 통해 사용한다.
- 버그 보고나 기술 지원은 공식 Bitwarden 채널이 아닌 별도의 커뮤니티(Matrix, GitHub Discussions)를 통해 진행한다.
AI · 머신러닝 · NangoHQ/nango · TypeScript
AI로 API 통합 자동 생성하는 Nango 오픈소스 플랫폼
Key Point개발자가 복잡한 API 통합 코드를 AI로 자동 생성할 수 있어 개발 속도를 높일 수 있고, 인증과 인프라 관리 부담을 없앨 수 있다.
핵심 요약
- 900개 이상의 API를 지원하는 오픈소스 통합 플랫폼으로, 자연어 설명으로부터 TypeScript 함수를 자동 생성할 수 있다.
- OAuth, API 키 인증, 토큰 갱신을 자동 처리하고 프록시를 통해 인증된 API 요청을 중개한다.
- 배포된 함수는 Nango의 프로덕션 런타임에서 재시도, 속도 제한 처리, 다중 테넌트 격리를 포함한 엔터프라이즈급 인프라를 제공한다.
- AI 에이전트 툴 호출, 데이터 동기화, 웹훅 처리, API 통일화 등 다양한 통합 패턴을 지원한다.
- Replit, Ramp, Mercor 등 수백 개 회사가 프로덕션에서 사용 중이며, 클라우드 또는 자체 호스팅 가능하다.
AI · 머신러닝 · danny-avila/LibreChat · TypeScript
오픈소스 AI 챗봇 플랫폼 LibreChat, v0.8.8 에이전트 기능 확대
Key Point여러 AI 모델을 자유롭게 조합하며 에이전트 자동화를 직접 구축·운영할 수 있는 플랫폼이 필요한 개발자와 기업에 필수적인 선택지가 되고 있다.
핵심 요약
- LibreChat이 에이전트 관리 API, 연결된 워크스페이스, 코드 승인 제어 등을 추가한 v0.8.8-rc3를 출시했다.
- ChatGPT 클론으로 시작했으나 이제 다중 AI 모델 지원, 코드 인터프리터, MCP 서버, 파일 검색, 웹 검색 등 다양한 기능을 제공한다.
- 에이전트는 커스텀 AI 어시스턴트를 코드 없이 만들 수 있고, 마켓플레이스에서 공유되며, 파일 시스템 접근과 Bash 실행이 가능하다.
- OpenAI, Anthropic, Google, AWS Bedrock, Azure, Groq, DeepSeek 등 주요 AI 제공자와 Ollama, OpenRouter 같은 로컬·커스텀 엔드포인트를 지원한다.
- Python, Node.js, Go, C/C++, Java, PHP, Rust, Fortran에서 보안 샌드박스 실행이 가능한 코드 인터프리터를 내장했다.
- 자체 호스팅이 가능한 오픈소스(TypeScript)로 멀티유저 인증, 메시지 검색, 컨텍스트 최적화, OpenTelemetry 로깅 같은 엔터프라이즈 기능을 갖추고 있다.
오픈소스 · 도구 · ever-co/ever-gauzy · TypeScript
Ever Gauzy, 통합 업무관리 플랫폼 오픈소스 공개
Key Point협업 경제와 원격근무 환경에서 필요한 ERP·HRM·CRM 기능을 하나의 오픈소스로 통합 제공하므로, 중소 팀과 프리랜서 조직이 자체 호스팅 또는 클라우드로 저비용에 구축할 수 있는 대안이 생겼다.
핵심 요약
- TypeScript 기반 오픈소스 ERP/CRM/HRM/ATS/PM 통합 플랫폼 Ever Gauzy를 공개했다.
- 시간 추적, 직원 관리, 고객 관리, 프로젝트 관리, 회계 등 10개 이상의 비즈니스 모듈을 포함한다.
- 웹 UI, 데스크톱 앱(Windows/Mac/Linux), SaaS 버전으로 제공되며 AGPL v3 라이선스를 적용했다.
- 데모 사이트(demo.gauzy.co)와 SaaS(app.gauzy.co, 알파 버전)를 운영하고 있으며 다국어·다중통화를 지원한다.
- Headless API를 제공해 Ever Teams(React/React Native 스택)같은 다른 애플리케이션과 연동할 수 있다.
오픈소스 · 도구 · peetzweg/opendisplay · Swift
아이폰·아이패드를 맥의 두 번째 모니터로, 오픈소스 '오픈디스플레이'
Key Point아이폰을 유료 구독 없이 맥 모니터로 바로 쓸 수 있게 해주고, 자체 호스팅 방식으로 사생활도 지켜준다.
핵심 요약
- 애플 사이드카나 듀엣 디스플레이 같은 유료·구독 서비스 대신 무료 오픈소스로 아이폰·아이패드·맥을 두 번째 모니터로 쓸 수 있는 도구다.
- USB 케이블로는 H.264 저지연 스트리밍을, WiFi로는 보주어 자동 탐지로 연결하며, 레티나 화질과 터치·스크롤 입력을 지원한다.
- 진정한 확장 디스플레이(미러링 아님)로 작동하므로 맥OS는 이를 실제 모니터로 인식해 창을 드래그할 수 있고, 시스템 설정에서 배치 조정이 가능하다.
- 아이폰도 지원하고(사이드카는 아이패드만), 다른 애플 ID 사용자도 쓸 수 있으며, 자체 호스팅이라 데이터가 외부 서버를 거치지 않는다.
- 구형 맥 OS 12 이상이면 수신기 앱을 설치해 또 다른 맥을 두 번째 모니터로 만들 수 있으며, USB·썬더볼트·이더넷 케이블로 연결된다.
- 풀 스크린 레코딩 인디케이터는 OS 수준의 사이드카와 달리 표시되지만, 이는 맥OS의 보안 기능이라 앱이 숨길 수 없다.
AI · 머신러닝 · vxcontrol/pentagi · Go
AI 에이전트로 자동화된 침투 테스트, PentAGI 공개
Key Point침투 테스트의 자동화 수준이 AI 기반으로 한 단계 올라갔고, 엔지니어가 직접 배포 가능한 오픈소스 형태로 제공되므로 보안 팀의 작업 방식을 크게 바꿀 수 있다.
핵심 요약
- Go로 작성된 오픈소스 프로젝트로, AI가 자율적으로 복잡한 침투 테스트 작업을 수행한다.
- nmap, metasploit, sqlmap 등 20개 이상의 보안 도구를 내장하고 있으며, Docker 샌드박스 환경에서 완전히 격리된 상태로 작동한다.
- Ollama, OpenAI, Anthropic, Google AI, AWS Bedrock, DeepSeek 등 10개 이상의 LLM 제공자를 지원하며, 사용자가 원하는 모델을 선택할 수 있다.
- Neo4j 기반 Knowledge Graph(Graphiti), PostgreSQL 저장소, 웹 UI와 REST/GraphQL API를 제공하며, 자체 호스팅 기반 완전 제어 환경을 제공한다.
- Tavily, Firecrawl, Perplexity 등 외부 검색 API와 브라우저를 통해 웹 정보를 수집하고, 연구 결과를 장기 저장하는 메모리 시스템을 갖추고 있다.
스타트업 · 비즈니스 · melgarafael/DeskcommCRM · TypeScript
WhatsApp 연동 오픈소스 AI 영업 CRM 공개
Key PointWhatsApp 판매 자동화를 원하는 중소 비즈니스나 에이전시가 고액의 SaaS 구독료 없이 자체 서버에서 운영할 수 있는 선택지가 생겼으며, 설치부터 운영까지 복잡한 기술 설정을 최소화한 점이 적용 장벽을 낮춘다.
핵심 요약
- DeskcommCRM은 자체 호스팅형 오픈소스 CRM으로, AI 에이전트가 WhatsApp에서 고객을 응대·상담·판매한다.
- Kommo, Octadesk, Intercom의 오픈소스 대안이며 기능 잠금이 없고 사용자가 자신의 데이터를 소유한다.
- TypeScript 기반이며 MCP 지원, 다중 테넌트, LGPD 준수한다.
- VPS에 한 줄 명령어로 설치 가능하며, 설치 도구가 도메인·데이터베이스·AI 키·WhatsApp을 자동 구성한다.
- Supabase 무료 계정 + OpenRouter/Anthropic/OpenAI 키가 필요하고, 설정값만 입력하면 HTTPS와 자동화 크론도 함께 설정된다.
- 웹 대시보드에서 버전 업데이트도 가능하며 HostGator와 파트너십을 통해 할인된 VPS 제공한다.
AI · 머신러닝 · alsk1992/CloddsBot · TypeScript
Claude 기반 AI 거래 에이전트, 다중 자산 자동매매 오픈소스 공개
Key PointAI 에이전트가 실제 자산을 자동으로 거래하는 시스템이 오픈소스로 공개되면서 개발자들이 직접 배포·커스터마이징할 수 있게 됐다.
핵심 요약
- Claude를 기반으로 한 자동 거래 에이전트 Clodds를 오픈소스로 공개했다.
- 예측시장(Polymarket, Kalshi), 암호화폐 현물 및 선물, Solana DEX, EVM 체인 등 1000개 이상의 마켓에서 자율적으로 운영된다.
- 118개 이상의 거래 전략(모멘텀, 평균회귀, 고래 추적, 차익거래 등)과 통합 리스크 관리 엔진(회로차단기, VaR/CVaR, 변동성 감지)을 갖춘다.
- Telegram, Discord, WhatsApp 등 21개 메시징 플랫폼과 내장 웹챗 인터페이스로 자연어 기반 거래 명령을 처리한다.
- SQLite 기반 로컬 저장소와 LanceDB 의미론적 메모리로 대화 이력을 무제한 보관하며, 백테스팅과 포트폴리오 추적 기능을 제공한다.
- 자체 호스팅 가능한 오픈소스(MIT 라이선스)이며 119개의 번들 기술과 MCP 서버 지원으로 Claude Desktop에 통합할 수 있다.
AI · 머신러닝 · OpenHands/OpenHands · TypeScript
자체 호스팅 가능한 AI 개발 에이전트 컨트롤 센터 'Agent Canvas' 공개
Key Point개발팀이 AI 에이전트를 자신의 인프라에서 관리하면서도 Claude Code, Gemini 같은 다양한 모델을 자유롭게 선택·전환할 수 있는 중앙 제어점이 생겼고, 팀 협업과 자동화 워크플로우 구성이 한층 수월해진다.
핵심 요약
- OpenHands는 AI 코딩 에이전트를 자체 호스팅할 수 있는 컨트롤 센터 'Agent Canvas'를 공개했다.
- 로컬 머신, Docker, VM, 클라우드 등 여러 백엔드 환경에서 에이전트를 실행할 수 있으며, 하나의 인터페이스에서 백엔드 간 전환이 가능하다.
- OpenHands, Claude Code, Codex, Gemini 등 ACP(Agent-Client Protocol) 호환 에이전트라면 모두 지원한다.
- Slack, GitHub, Linear, Notion 등 서드파티 서비스와 통합하여 자동화 워크플로우를 구성할 수 있고, 일정에 따라 또는 웹훅 이벤트에 반응하여 자동화를 실행한다.
- Node.js 22.12 이상이 필요하며, 샌드박스 없이 직접 실행하거나 Docker로 격리된 환경에서 운영할 수 있다.
- 웹 UI는 localhost:8000에서 접근 가능하고, 자유로운 LLM 선택을 지원한다.
인프라 · 데브옵스 · Cloud in a Bottle: making self-hosting accessible to everyone
개인용 클라우드를 누구나 쓸 수 있게, Cloud in a Bottle 공개
Key Point클라우드 소프트웨어 중앙화의 문제를 개인 서버로 해결하려는 새로운 시도이며, 일반인도 접근 가능한 자체 호스팅 플랫폼이 필요한 시점에서 실질적인 대안을 제시한다.
핵심 요약
- Cloud in a Bottle은 컨테이너화된 앱을 호스팅하는 오픈소스 개인 클라우드 플랫폼으로, Ubuntu 머신 위에서 대시보드와 인증 시스템을 제공한다.
- 기존 자체 호스팅 솔루션들(Sandstorm, Nextcloud, YunoHost, Coolify)이 느리거나 보안이 약하거나 연동성이 부족한 문제를 해결하기 위해 만들어졌다.
- 앱들은 격리된 컨테이너에서 실행되며 한 번 로그인하면 모든 앱에 자동으로 로그인되고, 앱 간 데이터 공유도 권한 기반으로 가능하다.
- 오픈소스이며 자체 호스팅 가능하고, 개발사 Imbue가 제공하는 관리형 버전($10 크레딧)도 있지만 오픈소스 버전이 항상 동등하게 지원된다.
- 현재 6개월 이상의 비공개 테스트 후 코어 플랫폼이 안정화되어 공개했으며, 큐레이션된 앱 카탈로그를 지속적으로 확장하고 있다.
AI · 머신러닝 · Kimi K3 (2.8T) at 1 token/s on a MacBook Pro, streamed from four SSDs
280억 파라미터 Kimi K3를 맥북에서 초당 1토큰 속도로 구동
Key Point280억 개 파라미터를 가진 대규모 언어모델을 품질 손상 없이 소비자용 하드웨어에서 구동하는 것이 가능함을 보여주며, 가정용 AI 인프라의 현실적 가능성을 시사한다.
핵심 요약
- 삼성 M5 Max 맥북 프로(128GB)에서 280억 파라미터 Kimi K3 MoE 모델을 4개 SSD에서 스트리밍하며 초당 1.00토큰의 안정적 디코딩 속도를 달성했다.
- 모델의 1.45TB 전문가 가중치는 SSD에서 동적으로 로드되며, 프리필 단계에서 각 레이어의 전문가를 8배 중복 읽기하면서 약 6.3분의 지연이 발생한다.
- 기존 공개 벤치마크(0.68토큰/s)보다 43% 빠른 성능을 기록했으며, 드라이브 개수에 따라 1개 52%, 2개 73%, 3개 90%의 속도 향상을 보인다.
- MIT 라이선스 Deltafin은 모델 품질을 절대 훼손하지 않고 전체 16개 전문가를 모두 사용하며, 스트리밍 모드(215GB 시작) 또는 풀 다운로드 모드(1.7TB)로 설치 가능하다.
- 프리필 재읽기 문제는 식별되었고 수정 계획이 있지만 아직 구현되지 않았으며, 개발진은 이를 순수한 연구 실험이자 자체 호스팅 AI의 한계를 탐색하는 프로젝트로 규정했다.
AI · 머신러닝 · experientiallabs/experiential · Python
자신의 모델을 소유하면서 비용을 절감하는 오픈소스 LLM 게이트웨이
Key Point프로덕션 트래픽 데이터로 자신이 소유한 모델을 최적화하면서도 OpenAI 호환 인터페이스로 기존 도구와 호환되어, LLM 비용 관리와 성능 개선을 동시에 달성할 수 있다.
핵심 요약
- Experiential은 OpenAI 호환 API 하나로 자체 호스팅, BYOK, 1000개 이상의 마켓플레이스 모델을 통합 관리하는 오픈소스 게이트웨이다.
- 사용자와 에이전트별로 어떤 모델을 사용할 수 있는지, 각 용도별 지출 한도를 제어할 수 있다.
- 프로덕션 트래픽으로부터 OpenTelemetry 추적을 수집하고 이를 통해 커스텀 라우터를 학습시켜 품질, 속도, 비용을 최적화한다.
- 로컬 게이트웨이와 호스팅 플랫폼(platform.experientiallabs.ai)을 선택할 수 있으며, 두 환경 모두 동일한 API를 제공한다.
- OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks, OpenRouter 등 주요 LLM 제공자의 API 키를 연결할 수 있다.