PrismML 将 1-bit Bonsai 小模型带到高通骁龙智能眼镜
中文摘要
PrismML 展示了可在骁龙 AR1 智能眼镜上本地运行的 1-bit Bonsai 模型，通过 4 倍压缩实现实时视觉问答。
English Summary
PrismML showcased its 1-bit Bonsai LLM for Snapdragon AR1 smart glasses, enabling 4x compression for local, real-time visual and language queries.
Original Excerpt
PrismML 在高通骁龙峰会上展示了可在 Snapdragon AR1 Gen 1 平台智能眼镜上本地运行的 1-bit Bonsai LLM。该版本为 20 亿参数、面向视觉与语言微调的模型，可将大模型压缩 4 倍并保留标准基准上几乎全部性能，用户可实时询问所看之物。目前尚无搭载 PrismML 的智能眼镜发布。