阿里发布 Qwen4-Max:2.4T MoE、71B 激活、1M 上下文
中文摘要
阿里巴巴发布2.4T MoE模型Qwen4-Max,支持多模态和100万token上下文。
English Summary
Alibaba releases Qwen4-Max, a 2.4T MoE model supporting multimodal input and 1M token context.
Original Excerpt
阿里 Qwen 团队发布 Qwen4 系列首个模型 Qwen4-Max,为专有稀疏 MoE 模型,2.4T 骨干参数、每 token 激活 71B,另有 328B N-gram Embedding 参数,支持文本、图像和视频输入及 1M token 上下文窗口、393K 最大输出。