蚂蚁 inclusionAI 发布 UBTree 项目页:用 Unigram 与 Bigram 模型并行树草稿加速投机解码
中文摘要
蚂蚁inclusionAI发布UBTree,用Unigram/Bigram并行树加速解码。
English Summary
Ant Group's inclusionAI launches UBTree, using Unigram/Bigram parallel trees for faster decoding.
原文节选
蚂蚁 inclusionAI 上线 UBTree 项目页,介绍其用 Unigram 与 Bigram 模型做并行树草稿的投机解码方法(arXiv:2609.39972)。页面用 Ling3 Tiny 与 Flash 的 HumanEval 示例视频对比 AR、DFlash、DSpark 与 UBTree 四种方法,并附基准图表与消融数据。