给“投机解码”松绑:北航等提出ASD,推理吞吐最高提速15.26%

PaperWeekly 2026年10月15日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

©PaperWeekly 原创· 作者 | 冯源诺单位 | 北京航空航天大学博士生研究方向 | 大模型推理加速论文标题:Approximate Speculative Decoding论文地址:htt