Qwen3-235B访存开销直降11.3%!京东AI Infra团队提出MoE推测解码新范式

智猩猩AI 2026年08月11日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

智猩猩AI整理编辑:BugMaker大模型推理时,多猜几个Token再一起验证,通常会比逐个生成更快。但到了混合专家模型(Mixture-of-Experts,MoE),这件事没有看起来那么简单。不同