已收录文章摘要,完整内容可前往原文阅读。
上期拆解了 DeepSeek 开源的推理引擎 DeepInfer,这期看 SGLang 用 DeepInfer 自己的 benchmark、同样的硬件正面对比:prefill 吞吐最高 1.04 倍,