已收录文章摘要，完整内容可前往原文阅读。
↑ 点击蓝字 关注极市平台作者丨苏剑林@https://kexue.fm/archives/11848来源丨AINLP编辑丨极市平台极市导读 苏神在博客里逐项拆了 K3 的 MoE 与注意力设计，K3