分享一些 insights｜我们为什么会做 dLLM，又能否取代 AR？
中文摘要
本文分析dLLM的挑战，认为其难以取代AR模型，而更可能与AR及投机采样融合形成互补。
English Summary
The article analyzes dLLM challenges, concluding it won't replace AR models but will likely integrate with AR and speculative decoding.
原文节选
📌 一句话摘要 本文从 LLaDA 系列实践出发，系统分析离散扩散语言模型（dLLM）的边际-联合一致性、token 效率与基础设施成本等核心挑战，论证 dLLM 难以简单取代 AR，更可能与 AR、speculative decoding 融合形成连续谱。 📝 详细摘要 文章以作者团队从 LLaDA-MoE 到 LLaDA 2.2 的实践为线索，对离散扩散语言模型（dLLM）能否取代自回归模型（AR）进行了系统反思。...