Ollama 0.40.4, 터미널에서 의사결정 모델 직접 실행

핵심 요약

• Ollama는 의사결정 모델(Decision Model)을 CLI에서 직접 실행할 수 있게 지원하며, 예/아니오 질문 답변, 텍스트 분류, 루브릭 채점 등을 수행할 수 있다.
• MLX 러너가 Apple Silicon에서 Kev 의사결정 모델을 지원하며, ollama launch는 유료 플랜 업그레이드 없이 사용 크레딧으로 실행 가능해졌다.
• Ollama launch codex는 로컬 설치된 Ollama 모델을 모델 피커에 포함하고 /model 명령으로 모델 전환을 지원한다.
• 검증된 매니페스트와 이미 로드된 모델을 재사용하여 추론 성능을 개선했다.
• llama-server를 통해 멀티모달 임베딩 지원을 추가하고 작은 컨텍스트 윈도우를 가진 멀티모달 임베딩 모델 로딩을 수정했다.
• MLX 러너에서 Gemma 4의 NVIDIA GPU 프리필 성능을 개선하고, 긴 Laya 상태를 거부하지 않고 클립핑하도록 변경했다.
• 추측 디코딩 신뢰성을 개선하여 롤백 후 반복 상태 처리를 포함했으며, llama.cpp를 의사결정 모델 지원으로 업데이트했다.