日均产出万亿Token!Mooncake落地生产,KV Cache命中率稳定突破90%

量子位 2026年09月11日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

趋境科技、KVCache.AI 投稿 量子位 | 公众号 QbitAI随着智能体从“一问一答”走向持续规划、工具调用和多轮执行,Token需求正在从零散调用转变为持续、规模化的生产需求。以某头部万亿参