大型挂机现场:马斯克的 55 万英伟达 GPU,利用率才 11%
中文摘要
大型 AI 基础设施利用率仅 11%,马斯克 GPU 规模远超软件调度能力。
English Summary
xAI's 550,000 NVIDIA GPUs reportedly show only 11% utilization, highlighting the industry-wide challenge of software scheduling failing to keep pace with massive hardware scale.
Original Excerpt
📌 一句话摘要 报道揭示 xAI 运营的 55 万块英伟达 GPU 利用率仅 11%,凸显大规模 AI 基础设施中硬件规模远超软件调度能力的行业性难题。 📝 详细摘要 本文基于《The Information》的报道,分析了 xAI 在 Memphis 和 Colossus 数据中心运营约 55 万块英伟达 H100/H200 GPU,但其模型算力利用率(MFU)仅约 11% 的现象。文章指出,当 GPU 集群规模扩展...