【NeurIPS 2026 】TokenRouter：让大模型逐词元路由真正高效运行

已收录文章摘要，完整内容可前往原文阅读。

词元级路由的算法收益为何难以转化为部署效率？解读TokenRouter的请求接口、异步交接和延迟批处理，结合实验条件分析吞吐与延迟收益。