Ollama v0.40.0：Apple Silicon 默认启用 MLX

技术要点

Ollama v0.40.0 于 2026-10-06 发布。本次发布的核心变化可以概括为一句话：在 Apple Silicon 设备上，由 MLX 运行时支持的模型架构将自动在 MLX 上运行。

把这一变化落到具体条目上，素材列出的内容如下：

• 默认启用 MLX：在 Apple Silicon 设备上，只要模型架构被 MLX 运行时支持，就会自动在 MLX 上运行，用户无需手动选择或额外配置运行路径。
• 示例命令：素材以 ollama pull qwen3.8 与 ollama run qwen3.8 作为在 MLX 上运行的示例命令，展示从拉取到运行的完整链路，说明这两个命令在 Apple Silicon 上会自然走 MLX 路径。
• 新增模型：本次新增的模型包括 gemma4、qwen3.6 和 qwen3.5。
• 决策模型：决策模型（decision models）现已在 MLX 上可用，具体包括 Nimble tev1、clef、clef-flash。
• 嵌入模型：MLX 现在支持一个嵌入模型，即 embeddinggemma-2。
• 后续计划：项目表示将持续测试并启用更多模型。

在发布说明的末尾，素材标注的完整更新日志范围为 v0.35.1...v0.40.0，即本次变更覆盖的范围起点为 v0.35.1。

原理与背景

素材对这一变更的设计动机给出的解释非常直接：在 Apple Silicon 设备上，只要模型架构被 MLX 运行时支持，就会自动在 MLX 上运行。

这里涉及两个关键概念。第一是 MLX：素材将其描述为一个运行时，能够运行模型架构，并且面向 Apple Silicon。第二是「受支持的模型架构」这一前提——只有当某个模型架构被 MLX 运行时支持时，Ollama 才会自动在 MLX 上运行它，否则走其他路径。这次变更的关键在于把这一行为设为默认，从而让用户不再需要手动选择运行路径，也不需要为每个模型单独配置。

素材同时描述了 MLX 支持范围的扩展方式。除了常规生成模型，决策模型（Nimble tev1、clef、clef-flash）也被纳入 MLX，并首次支持了嵌入模型 embeddinggemma-2。项目用「将持续测试并启用更多模型」来描述这一策略，说明当前支持的模型集合是一个仍在增长中的开放集合，而不是一次性全部开放。这也意味着，模型是否走 MLX 路径，取决于其架构是否已被 MLX 运行时支持。

值得注意的是，素材把「自动运行」建立在「受支持」这一条件之上，说明这一默认行为是有边界的：它覆盖的是已被 MLX 验证过的架构，而不是无差别地迁移所有模型。从解决的问题看，这一变更把「在 Apple Silicon 上获得本地推理体验」这一目标，从需要用户主动配置，转变为由运行时自动完成。决策模型与嵌入模型的加入，则把 MLX 的能力从单一的生成任务，扩展到了决策与表示学习等不同类型的任务上，使同一个运行时能够覆盖更多场景。

落地建议

针对这类运行时默认行为的变更，可以遵循以下通用做法：

• 先验证模型是否受支持：在升级到新版本后，先确认目标模型架构是否被 MLX 运行时支持，再决定是否依赖默认行为，避免假设所有模型都已迁移。
• 用最小命令验证链路：通过拉取并运行一个已知模型，确认推理链路确实按 MLX 路径执行，再逐步推广到更多模型。
• 关注支持的模型范围：素材表明 MLX 支持的模型仍在持续增加，落地时应把「当前支持列表」视为会变化的信息，定期核对，而不是当作固定清单。
• 为回退留有余地：在默认行为变更初期，保留在旧路径上运行的验证手段，便于在出现兼容或性能问题时快速定位。
• 分阶段推广：先在少量机型或模型上验证稳定性与效果，再逐步扩大到全部设备与模型，降低一次性迁移的风险。
• 记录基线行为：在变更前记录模型在旧版本上的运行路径与性能表现，作为变更后对比的依据，便于判断默认行为切换是否带来可观测的变化。
• 监控运行路径：在日常使用中，留意模型实际走的是 MLX 路径还是其他路径，尤其是在升级后，确认默认行为符合预期。