ollama/ollama
Ollama v0.35.0, 의사결정 모델 지원 추가
원제 ollama/ollama v0.35.0
v0.35.0
Key Point
의사결정 모델 지원으로 LLM의 활용 범위가 텍스트 생성에서 분류·라우팅 같은 구조화된 의사결정으로 확대되며, 엔터프라이즈 워크플로우 자동화의 새로운 가능성이 열린다.
핵심 요약
- Ollama가 TypeSafe의 Jev API 기반 의사결정 모델을 /v1/systemone 엔드포인트로 지원하기 시작했다.
- 의사결정 모델은 텍스트 대신 선택지, 확률, 점수를 반환하며, 티켓 분류·모델 라우팅·콘텐츠 분류 등에 활용된다.
- 지원하는 모델은 Bespoke Labs의 Nimble과 Together AI의 Tev1이다.
- choice, noul, score 세 가지 질문 타입을 지원하며, choice는 옵션 선택 후 각 확률 반환, noul은 조건 확률, score는 순서 있는 기준에 따른 점수를 반환한다.
- API 응답에는 선택지, 확률값(billing 0.0125, bug 0.9781 등), 신뢰도(0.8906) 정보가 포함된다.
- 설정 화면 실행 시 모델 검색 완료를 기다리지 않도록 개선했다.
- macOS 업데이트 메뉴와 아이콘이 시작 시 업데이트 가능 상태를 반영하지 않는 문제를 해결했다.
- MLX 모델 다운로드가 무한 대기하는 현상을 수정했다.
- 더 이상 사용되지 않는 typical_p 파라미터 포함 요청은 실패 대신 경고만 기록하도록 변경했다.
릴리스 노트 보기 ↗github.com