已收录文章摘要,完整内容可前往原文阅读。
做推理框架的不少,但把支撑线上大规模生产服务的引擎原样拿出来开源,这样的例子并不多见。DeepSeek 近日在 GitHub 上开源了 DeepInfer——按官方说法,这正是驱动其生产服务的高性能推