港科大新发现：MoE 路由很脆弱！重复 token 输入阻塞负载均衡 | ICML'26
中文摘要
港科大发现重复token输入会导致MoE模型路由失衡，引发GPU负载不均并使TTFT激增20%-148%。
English Summary
HKUST found repetitive token inputs cause MoE routing imbalance, causing GPU stragglers and 20%-148% higher TTFT.
Original Excerpt
📌 一句话摘要 港科大团队发现 MoE 模型在重复 token 输入下路由失衡，导致 GPU 成为 straggler，TTFT 增幅达 20%-148%。 📝 详细摘要 本文报道香港科技大学团队在 ICML 2026 上提出的 RepetitionCurse 攻击方法：通过高度重复的 token 输入，诱导 MoE 模型的专家路由将大量 token 集中到少数专家，造成负载失衡和 GPU straggler，导致 t...