GitHub ReleasesAI · 머신러닝

ollama/ollama

Ollama 0.40.7 출시, 모델 전환 안정성 개선

원제 ollama/ollama v0.40.7

v0.40.7
Key Point

로컬 LLM 실행 환경에서 모델 호환성과 안정성이 크게 개선되어, 여러 모델 간 전환이나 원격 실행 시 발생하던 문제들이 해결되었다.

핵심 요약

  • Perplexity의 27B 의사결정 모델 'pplx-decider'를 추가 지원하며, Qwen3.8-27B를 기반으로 파인튜닝됐다.
  • OpenAI 호환 응답 대화에서 모델 간 전환 시(생각 기능 포함/미포함) 또는 다른 제공자의 압축 항목이 포함된 히스토리에서 실패하는 문제를 해결했다.
  • 스트리밍 응답 요청에서 클라이언트 도구 호출(예: 웹 검색 기능의 Codex)이 추론 항목 이전에 발생하여 도구 호출 이벤트가 순서 뒤바뀌거나 중복되는 문제를 수정했다.
  • 원격 모델로 라우팅된 요청이 ollama.com에서 클라이언트 연결 해제 시 즉시 취소되도록 변경하여 불필요한 리소스 낭비를 방지한다.
  • ollama show 명령이 이제 모델의 렌더러, 파서, 채팅 템플릿 출처를 표시하며, API는 새로운 renderer, parser, template_source 필드로 같은 정보를 노출한다.
  • 추측 디코딩 지원 모델이 확대되어 llama-server가 draft 타입을 자동으로 추론하므로 Ollama의 수동 식별이 더 이상 필요하지 않다.
  • ollama launch claude 명령이 CLAUDE_CODE_AUTO_COMPACT_WINDOW를 Claude Code 지원 범위로 제한하여 '윈도우가 너무 크다'는 경고를 방지한다.
  • llama.cpp와 MLX 라이브러리를 최신 버전으로 업데이트했다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗