쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 11일 (금)까지270건
2건 · "로컬실행"조건 지우기 ×
001당일 +258당신의 하드웨어에 맞는 LLM 찾아주는 도구 llmfitRust 기반 터미널 도구로, CPU·메모리·GPU·VRAM을 자동 감지해 실행 가능한 오픈소스 LLM 모델을 추천한다.AI · 머신러닝 · AlexsJones/llmfit · Rust
당신의 하드웨어에 맞는 LLM 찾아주는 도구 llmfit
Key Point로컬에서 LLM을 실행하려는 개발자들이 자신의 하드웨어 사양에 정확히 맞는 모델을 찾기 어려운 문제를 직접 해결해주는 도구이기 때문이다.
핵심 요약
- Rust 기반 터미널 도구로, CPU·메모리·GPU·VRAM을 자동 감지해 실행 가능한 오픈소스 LLM 모델을 추천한다.
- GGUF·AWQ·GPTQ·EXL2 등 다양한 양자화 포맷을 지원하며 메모리 사용량과 토큰 속도를 예측한다.
- 인터랙티브 TUI, 웹 대시보드, REST API 엔드포인트 중 선택해 사용할 수 있다.
- 벤치마킹 결과를 PR로 기여하면 다음 릴리스에 반영되어, 같은 하드웨어 사용자들이 검증된 수치를 얻을 수 있다.
- macOS, Linux, Windows 멀티플랫폼을 지원하고 Docker 이미지도 제공한다.
AI · 머신러닝 · ollama/ollama · Go
Ollama, 오픈소스 LLM 로컬 실행 플랫폼
Key Point개발 팀이 LLM을 클라우드 종속 없이 로컬에서 운영하고 싶을 때 실용적인 선택지가 필요하기 때문이다.
핵심 요약
- Ollama는 Kimi-K2.6, GLM-5.2, DeepSeek, Qwen, Gemma 등 다양한 오픈소스 모델을 로컬에서 실행할 수 있는 플랫폼이다.
- macOS, Windows, Linux 데스크톱은 물론 Docker로도 제공되며, Python과 JavaScript 라이브러리를 통해 기존 애플리케이션에 통합할 수 있다.
- Claude Code, Codex, Copilot CLI 등 다양한 코딩 IDE와 통합 지원하고, OpenClaw를 통해 WhatsApp, Telegram, Slack, Discord 등 메신저 앱과 연동 가능하다.
- REST API를 제공해 모델 실행과 관리를 프로그래밍 방식으로 제어할 수 있으며, llama.cpp를 기반으로 동작한다.
- Open WebUI, LibreChat, Lobe Chat, Perplexica 등 30개 이상의 오픈소스 커뮤니티 프로젝트가 Ollama와 통합되어 웹 인터페이스, 데스크톱 클라이언트, RAG 챗봇 등을 제공한다.