已收录文章摘要,完整内容可前往原文阅读。
智猩猩AI整理编辑:金水大模型推理成本越来越高,已成为推理链(CoT)与长文本时代的共识。投机解码(Speculative Decoding)是目前主流的加速方案之一,即用轻量草稿模型先“猜”一串 t