RTX 4060 跑 35B 模型,每秒 39 Token?伯克利、MIT 联手开源 FreeToken

InfoQ 2026年09月11日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

FreeToken 通过动态协同执行,让消费级硬件也能运行前沿 MoE 模型。