已收录文章摘要，完整内容可前往原文阅读。
MoHGE团队 投稿量子位 | 公众号QbitAI对于工业落地中的大语言模型，推理成本一直是核心制约因素。传统的混合专家模型（MoE）虽然实现了稀疏激活，但强制所有专家具备相同的参数规模。这种“一刀切