快手万擎大模型推理成本和性能优化实践

快手技术 2026年07月31日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

快手万擎在并行策略、PD 分离、KV cache、投机解码和调度系统上的全链路优化方法。