GitHub TrendingAI · 머신러닝

techjarves/Portable-Local-Studio

로컬 AI 스튜디오, 설치 없이 Windows·Linux·macOS에서 실행

원제 techjarves/Portable-Local-Studio

스타 1,720당일 +108JavaScript
Key Point

로컬 AI의 네 가지 핵심 기능(이미지·채팅·음성 인식·음성 합성)을 한 애플리케이션에서 설치 과정 없이 바로 사용할 수 있게 하는 새로운 접근이며, 하드웨어별 자동 가속 감지로 개발자의 수동 설정 부담을 크게 줄인다.

핵심 요약

  • Portable AI Studio는 인터넷 연결 없이 로컬에서 온전히 작동하는 데스크톱 AI 스튜디오로, Windows·Linux·macOS를 지원한다.
  • 이미지 생성(Stable Diffusion), LLM 채팅(llama.cpp), 음성 인식(Whisper), 음성 합성(Kokoro TTS) 네 가지 기능을 통합한다.
  • Node.js 런타임과 GPU 백엔드가 자체 포함돼 있어 설치나 시스템 환경 설정이 불필요하며, 사용자는 배치 파일이나 쉘 스크립트를 실행하기만 하면 된다.
  • NVIDIA CUDA·AMD ROCm·Intel Vulkan·macOS Metal·Intel NPU(OpenVINO) 등 다양한 하드웨어 가속을 자동으로 감지하고 활성화한다.
  • Hugging Face URL에서 직접 모델을 다운로드하거나 로컬 가중치를 드래그 앤 드롭으로 가져올 수 있는 통합 모델 매니저를 제공한다.
  • 이미지 생성과 텍스트 채팅은 상호 배타적 워크스페이스로 설계돼 시스템 RAM과 VRAM을 과다 사용하지 않는다.
  • 웹 UI에서 CPU·RAM·GPU·VRAM 사용률을 실시간으로 모니터링할 수 있고, 생성된 이미지는 프롬프트 파라미터와 메타데이터 JSON과 함께 로컬 갤러리에 저장된다.
  • 지원되는 이미지 모델은 Stable Diffusion 1.5·SDXL 체크포인트와 단일 파일 GGUF 체크포인트이며, SD 1.5는 2GB대 모델부터 SDXL은 7GB대 모델까지 권장 모델 목록이 제공된다.
  • 텍스트 채팅은 .gguf 포맷의 llama.cpp 모델을, 음성 인식은 whisper.cpp .bin 모델을, 음성 합성은 Kokoro .json 매니페스트와 모델 자산을 지원한다.
  • Windows는 portable Node.js 22와 GPU 백엔드를 자동으로 다운로드하고, Linux는 Ubuntu 24.04 이상의 glibc 2.38+ 환경에서 CUDA·ROCm·OpenVINO 설정 옵션을 제공하며, macOS는 Apple Silicon(M1 이상)만 Metal 가속으로 지원한다.
  • 포트 충돌 시 1420(웹 UI)과 8080(GPU 백엔드) 기본값에서 자동으로 대체 포트를 감지하며, 환경 변수로 네트워크 접근을 제어할 수 있다.
  • glibc 버전 불일치·ROCm 초기화 실패·GPU 선택 오류 등 트러블슈팅 시 reset 스크립트나 환경 변수 설정으로 대응하며, 원본 소스 컴파일도 지원한다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗