美团发布基于 N-gram 全新模型：嵌入扩展新范式，实现轻量化 MoE 高效进化
中文摘要
美团发布685亿参数轻量化MoE模型LongCat-Flash-Lite，嵌入层高效利用参数，性能超越同规模模型。
English Summary
Meituan released LongCat-Flash-Lite, a 68.5B parameter lightweight MoE model. Using N-gram embedding expansion, it achieves high efficiency and excels in agent and coding tasks.
Original Excerpt
LongCat-Flash-Lite是一款拥有 685 亿参数，每次推理仅激活 29 亿~ 45 亿参数的轻量化 MoE 模型。通过将超过 300 亿参数高效用于嵌入层，LongCat-Flash-Lite 不仅超越了参数量等效的 MoE 基线模型，还在与同规模现有模型的对比中展现出卓越的竞争力，尤其在智能体与代码领域表现突出。