MiniMax 感谢 SGLang-TorchTPU 将 H3 模型带上 TPU
中文摘要
MiniMax感谢SGLang-TorchTPU将H3等模型部署至TPU。该项目由SGLang、Google与Meta共建并已开源,提供高性能推理支持。
English Summary
MiniMax thanked SGLang-TorchTPU for enabling TPU deployment of H3 and other models. Co-built by SGLang, Google, and Meta, this open-source project provides high-performance inference.
Original Excerpt
MiniMax 转发并致谢 SGLang 团队:SGLang-TorchTPU 由 SGLang 与 Google TPU 团队、Meta PyTorch 团队共建,可将 MiniMax H3、GLM-5.3 Flash、Kimi K3 等开源模型部署在 TPU 上,并已支撑 Meta 生产环境推理。Muse Spark Open 在 InferenceX 8K/1K、bs=1 下解码达 770 tok/s,项目已在 GitHub 开源。MiniMax 表示期待高效视频推理方向更多开源工作。