ollama/ollama
Ollama v0.34.3 릴리스, 모델 추론 제어 API 추가
원제 ollama/ollama v0.34.3
v0.34.3
Key Point
LLM의 추론 깊이를 제어하는 thinking 기능이 API 레벨에서 관리 가능해져, 개발자가 프로덕션 서비스에서 모델의 사고 능력과 응답 속도를 유연하게 조절할 수 있다.
핵심 요약
- 모델의 사고(thinking) 제어 레벨을 설정할 수 있는 GET /api/show 엔드포인트 추가되었다.
- CLI와 API에서 각 모델의 thinking 기능과 기본값을 조회할 수 있으며, 올마 클라우드 모델은 ollama.com에서도 직접 확인 가능하다.
- Nemotron H 비전 모델이 Apple Silicon의 MLX 백엔드에서 정식 지원된다.
- macOS 앱이 종료한 윈도우를 다시 열지 않도록 개선됐다.
- HuggingFace에서 모델을 가져오는 기능의 버그가 수정됐다.
릴리스 노트 보기 ↗github.com