PrismML 发布 Ternary Bonsai 2 系列模型,iPhone 18 Pro Max 上本地吞吐最高每秒 120 个词元
中文摘要
PrismML 发布基于 Qwen 3.5 的 Ternary Bonsai 2 系列模型,采用三元权重,旨在手机和穿戴设备上实现高效本地智能体运行。
English Summary
PrismML released Ternary Bonsai 2 models (2B/4B/9B) using ternary weights, enabling efficient local AI agent deployment on mobile and wearable devices.
Original Excerpt
PrismML 于 10 月 15 日发布 Ternary Bonsai 2 系列模型,含 2B、4B、9B 三种规模,基于 Qwen 3.5 基座,采用 -1、0、+1 三元权重表示,存储占用分别约 0.43GB、0.95GB 和 2GB,目标在手机、PC 和可穿戴设备上本地运行智能体。