【NeurIPS 2026 】TokenRouter:让大模型逐词元路由真正高效运行

专知 2026年10月11日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

TokenRouter:让大模型逐词元路由真正高效运行导读同一段回答,能否由小模型处理容易的词元,再把困难部分交给大模型?词元级路由试图把模型协作细化到生成过程内部,但算法上的节省,未必能直接转化为服