Ollama, 오픈소스 LLM 로컬 실행 플랫폼

핵심 요약

• Ollama는 Kimi-K2.6, GLM-5.2, DeepSeek, Qwen, Gemma 등 다양한 오픈소스 모델을 로컬에서 실행할 수 있는 플랫폼이다.
• macOS, Windows, Linux 데스크톱은 물론 Docker로도 제공되며, Python과 JavaScript 라이브러리를 통해 기존 애플리케이션에 통합할 수 있다.
• Claude Code, Codex, Copilot CLI 등 다양한 코딩 IDE와 통합 지원하고, OpenClaw를 통해 WhatsApp, Telegram, Slack, Discord 등 메신저 앱과 연동 가능하다.
• REST API를 제공해 모델 실행과 관리를 프로그래밍 방식으로 제어할 수 있으며, llama.cpp를 기반으로 동작한다.
• Open WebUI, LibreChat, Lobe Chat, Perplexica 등 30개 이상의 오픈소스 커뮤니티 프로젝트가 Ollama와 통합되어 웹 인터페이스, 데스크톱 클라이언트, RAG 챗봇 등을 제공한다.