行业资讯

Ternary Bonsai 2系列AI模型发布：实现移动端高效本地推理

AI公司PrismML于10月15日发布Ternary Bonsai 2系列AI模型，包含2B、4B、9B三种规模。该系列基于阿里Qwen 3.5构建，采用仅用-1、0、+1编码参数的“三元”权重表示法，旨在实现手机、PC等设备的本地AI智能体运行。在iPhone 18 Pro Max上，2B模型最高吞吐可达每秒120词元，9B模型为每秒34词元，显著提升了移动端本地AI推理的性能与能效。