长上下文推理既省又准的“焚诀”来了!港中文团队提出自动分段+块蒸馏新框架 | NIPS'26

量子位 2026年10月20日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

Block Distillation团队 投稿量子位 | 公众号QbitAI长上下文大模型的成本,很大一块烧在“全注意力”上。KV状态与上下文绑定,同样的内容换了个前缀,就得从头重算——在RAG这类“