Ternary Bonsai 2系列AI模型发布:实现移动端高效本地推理
AI公司PrismML于10月15日发布Ternary Bonsai 2系列AI模型,包含2B、4B、9B三种规模。该系列基于阿里Qwen 3.5构建,采用仅用-1、0、+1编码参数的“三元”权重表示法,旨在实现手机、PC等设备的本地AI智能体运行。在iPhone 18 Pro Max上,2B模型最高吞吐可达每秒120词元,9B模型为每秒34词元,显著提升了移动端本地AI推理的性能与能效。
好游模型 22
关键词「Ternary Bonsai 2」的检索结果
AI公司PrismML于10月15日发布Ternary Bonsai 2系列AI模型,包含2B、4B、9B三种规模。该系列基于阿里Qwen 3.5构建,采用仅用-1、0、+1编码参数的“三元”权重表示法,旨在实现手机、PC等设备的本地AI智能体运行。在iPhone 18 Pro Max上,2B模型最高吞吐可达每秒120词元,9B模型为每秒34词元,显著提升了移动端本地AI推理的性能与能效。