GitHub TrendingAI · 머신러닝오늘의 주요

janhq/jan

Jan: 오픈소스 ChatGPT 대안, 완전 오프라인 실행

원제 janhq/jan

스타 45,980당일 +101Rust
Key Point

ChatGPT 같은 클라우드 AI 사용 없이 개인 PC에서 LLM을 완전히 오프라인으로 운영하고 싶은 개발자라면, Jan으로 프라이버시와 로컬 제어를 확보할 수 있습니다.

핵심 요약

  • Jan은 Llama, Gemma, Qwen 등 HuggingFace의 LLM을 다운로드해 로컬에서 100% 오프라인으로 실행하는 오픈소스 AI 도구다.
  • OpenAI, Anthropic Claude, Mistral, Groq 등 클라우드 AI도 연동할 수 있으며, 로컬 서버(localhost:1337)에서 OpenAI 호환 API를 제공한다.
  • 커스텀 AI 어시스턴트 생성, Model Context Protocol(MCP) 통합으로 에이전트 기능을 지원한다.
  • Windows, macOS, Linux(deb/AppImage/Arm64) 등 주요 플랫폼에 바이너리로 배포되며, Node.js, Yarn, Rust 등이 필요한 소스 빌드도 가능하다.
  • 빌드 시 `JAN_ENGINE_VARIANT`로 CPU, Vulkan, Metal, CUDA 등 다양한 엔진을 선택할 수 있고, Windows의 경우 Git Bash에서 `make dev`로 개발 환경을 설정한다.
  • 메모리 요구사항은 3B 모델 8GB, 7B 모델 16GB, 13B 모델 32GB이며, NVIDIA/AMD/Intel Arc GPU 지원이 있다.
  • 로컬 실행으로 완전한 제어권과 프라이버시를 보장하며, Apache 2.0 라이선스로 공개되어 있다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗