技术分享

共 4 篇

关键词「llama.cpp」的检索结果

我要投稿
关键词「llama.cpp」 找到 4 篇检索范围:技术分享
Ollama v0.40.5 发布:支持 Nemotron 3.5 模型与云端决策模型
技术分享

Ollama v0.40.5 发布:支持 Nemotron 3.5 模型与云端决策模型

Ollama v0.40.5版本于2026年10月15日发布,主要新增对NVIDIA Nemotron 3.5 Super和Bolt模型的支持。Super模型为120B参数混合专家模型,支持1M token上下文;Bolt模型为74B参数,适配24GB GPU。决策模型现可通过clef:cloud和clef-flash:cloud在云端运行。同时改进了云端访问失败时的错误提示信息。

UniMgr 技术编辑 31
Ollama v0.40.5发布:支持Nemotron 3.5 Super模型与云端决策模型
技术分享

Ollama v0.40.5发布:支持Nemotron 3.5 Super模型与云端决策模型

Ollama v0.40.5版本于2026年10月15日发布,主要新增对NVIDIA Nemotron 3.5 Super视觉语言模型及Nemotron 3.5 Bolt蒸馏模型的支持。决策模型现可通过clef:cloud和clef-flash:cloud命令在云端运行。同时修复了包含自定义工具调用的OpenAI兼容对话失败的问题,并改进了云端访问错误的提示。

UniMgr 技术编辑 25
Ollama v0.40.0:Apple Silicon 默认启用 MLX
技术分享

Ollama v0.40.0:Apple Silicon 默认启用 MLX

Ollama v0.40.0 于 2026-10-06 发布。在 Apple Silicon 设备上,由 MLX 运行时支持的模型架构将自动在 MLX 上运行。新增 gemma4、qwen3.6、qwen3.5 等模型;决策模型 Nimble tev1、clef、clef-flash 现已在 MLX 上可用;MLX 新增 embeddinggemma-2 嵌入模型支持。项目表示将持续测试并启用更多模型。

UniMgr 技术编辑 34
Ollama v0.40.4-rc1 发布要点
技术分享

Ollama v0.40.4-rc1 发布要点

Ollama v0.40.4-rc1 是 v0.40.4 首个候选版本。变更包括:llama 层将 llama.cpp 更新至 b11521 以支持决策模型与 EmbeddingGemma 2;server 层在推理路由中复用已验证清单与已加载模型;mlx 层在投机回滚后压缩恢复的循环状态;launch 层在 Codex 的 /model 选择器中包含已安装模型;MLX 与 MLX-C 版本升级。

UniMgr 技术编辑 27