114B 参数、6B 激活,Sand.ai 开源全球首个千亿 MoE 视频生成模型
中文摘要
Sand.ai开源全球首个千亿参数MoE视频生成模型MAGI-2-preview,总参数114B,单次激活6B,大幅降低推理成本。
English Summary
Sand.ai open-sourced MAGI-2-preview, the first 100B+ MoE video model with 114B total and 6B active parameters, significantly reducing inference costs.
Original Excerpt
📌 一句话摘要 清华系团队 Sand.ai 开源全球首个千亿参数 MoE 视频生成模型 MAGI-2-preview,通过自研架构与底层优化大幅降低推理成本。 📝 详细摘要 本文报道了清华系团队 Sand.ai 开源的全球首个千亿参数 MoE 视频生成模型 MAGI-2-preview。该模型总参数达 114B,单次前向仅激活约 6B,生成成本仅为行业主流模型的十分之一。技术上,模型延续了音画协同建模的单流架构,并创新...