RTX 4060 跑 35B 模型,每秒 39 Token?伯克利、MIT 联手开源 FreeToken

AI前线 2026年09月12日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

作者 | Olimpiu Pop 译者 | 田橙 加州大学伯克利分校和麻省理工学院的研究人员推出了 FreeToken。这是一款开源推理引擎,旨在弥合前沿混合专家(MoE)模型与消费级硬件之间的差距。