面壁智能 MiniCPM-V 4.7 开源上线 ModelScope,35B-A3B MoE 多模态模型可在 iPhone 上以 13+ tokens/s 端侧无损推理
中文摘要
面壁智能MiniCPM-V 4.7开源,35B-A3B MoE多模态模型,支持iPhone端侧无损推理,速度13+ tokens/s,性能优于Qwen3.6。
English Summary
MiniCPM-V 4.7 open-sourced on ModelScope, a 35B-A3B MoE multimodal model. It offers lossless edge inference on iPhone at 13+ tokens/s, outperforming Qwen3.6.
原文节选
面壁智能 MiniCPM-V 4.7 已在 ModelScope 开源,是 35B-A3B 的 MoE 多模态模型,采用 Apache 2.0 协议。官方称其可在 iPhone 17 Pro Max 上以 13+ tokens/s 流畅运行端侧无损推理,Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短;支持 4x/16x 视觉 token 压缩,提供 35B-A3B 和 1B 两种规格及 FP8、GPTQ、AWQ、BNB、GGUF 变体,兼容 SGLang、vLLM、llama.cpp、Ollama、SWIFT 和 LLaMA-Factory,可运行于 iO...