已收录文章摘要,完整内容可前往原文阅读。
作者 | Olimpiu Pop 译者 | 田橙 加州大学伯克利分校和麻省理工学院的研究人员推出了 FreeToken。这是一款开源推理引擎,旨在弥合前沿混合专家(MoE)模型与消费级硬件之间的差距。