返回首页
RadarAI··论文与技术

在自己的硬件上运行前沿 AI:一个学术实验室的开源周

中文摘要

中文:学术实验室发布开源周,展示在自有硬件上运行前沿AI模型,Qwen 3.6 35B-A3B 量化后速度可观。

English Summary

English: Academic lab's "Open Source Week" showcases running frontier AI on own hardware; Qwen 3.6 35B-A3B achieves impressive speed with quantization.

原文节选

一个学术实验室发起"开源周",主张研究的基本单位已从单篇论文变为生态系统,并展示在自有硬件上运行前沿模型的成果:Qwen 3.6 35B-A3B 在 Mac 与 Metal 上以 1.5 bits per weight 量化实现 450 tokens per second。