ollama/ollama
Ollama 0.40.7 출시, 모델 전환 안정성 개선
원제 ollama/ollama v0.40.7
v0.40.7
Key Point
로컬 LLM 실행 환경에서 모델 호환성과 안정성이 크게 개선되어, 여러 모델 간 전환이나 원격 실행 시 발생하던 문제들이 해결되었다.
핵심 요약
- Perplexity의 27B 의사결정 모델 'pplx-decider'를 추가 지원하며, Qwen3.8-27B를 기반으로 파인튜닝됐다.
- OpenAI 호환 응답 대화에서 모델 간 전환 시(생각 기능 포함/미포함) 또는 다른 제공자의 압축 항목이 포함된 히스토리에서 실패하는 문제를 해결했다.
- 스트리밍 응답 요청에서 클라이언트 도구 호출(예: 웹 검색 기능의 Codex)이 추론 항목 이전에 발생하여 도구 호출 이벤트가 순서 뒤바뀌거나 중복되는 문제를 수정했다.
- 원격 모델로 라우팅된 요청이 ollama.com에서 클라이언트 연결 해제 시 즉시 취소되도록 변경하여 불필요한 리소스 낭비를 방지한다.
- ollama show 명령이 이제 모델의 렌더러, 파서, 채팅 템플릿 출처를 표시하며, API는 새로운 renderer, parser, template_source 필드로 같은 정보를 노출한다.
- 추측 디코딩 지원 모델이 확대되어 llama-server가 draft 타입을 자동으로 추론하므로 Ollama의 수동 식별이 더 이상 필요하지 않다.
- ollama launch claude 명령이 CLAUDE_CODE_AUTO_COMPACT_WINDOW를 Claude Code 지원 범위로 제한하여 '윈도우가 너무 크다'는 경고를 방지한다.
- llama.cpp와 MLX 라이브러리를 최신 버전으로 업데이트했다.
릴리스 노트 보기 ↗github.com