小米发布 MiMo-V2.6 系列:Pro 1.02T 总参数 42B 激活,Flash 310B-15B
中文摘要
小米发布 MiMo-V2.6 多模态模型(含 Pro 1.02T 与 Flash 310B),通过强化学习自我改进,支持 1M 上下文并开源训练框架。
English Summary
Xiaomi released MiMo-V2.6 multimodal models (Pro 1.02T and Flash 310B), using RL for self-improvement, supporting 1M context, and open-sourcing their training framework.
原文节选
小米 MiMo-V2.6 系列发布,MiMo-V2.6-Pro 为 1.02T 总参数、42B 激活,MiMo-V2.6-Flash 为 310B 总参数、15B 激活。推文称其为 Artificial Analysis 上的开源模型榜首,并附 RL dashboard 和技术报告。报告称该全模态系列通过扩展 RL 算力追求模型自我改进,异步训练每步消耗 1,568 个样本、2.7~3.7B token,上下文最长 1M,并开源训练动态、RL 环境和 RL 框架。