上交大联合提出Draft-OPD方案,思考模型推测解码实现5倍无损加速!

智猩猩AI 2026年09月25日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

智猩猩AI整理编辑:金水大模型推理成本越来越高,已成为推理链(CoT)与长文本时代的共识。投机解码(Speculative Decoding)是目前主流的加速方案之一,即用轻量草稿模型先“猜”一串 t