在自己的硬件上运行前沿 AI:一个学术实验室的开源周
中文摘要
中文:学术实验室发布开源周,展示在自有硬件上运行前沿AI模型,Qwen 3.6 35B-A3B 量化后速度可观。
English Summary
English: Academic lab's "Open Source Week" showcases running frontier AI on own hardware; Qwen 3.6 35B-A3B achieves impressive speed with quantization.
Original Excerpt
一个学术实验室发起"开源周",主张研究的基本单位已从单篇论文变为生态系统,并展示在自有硬件上运行前沿模型的成果:Qwen 3.6 35B-A3B 在 Mac 与 Metal 上以 1.5 bits per weight 量化实现 450 tokens per second。