注意力也是FFN?从快权重出发,重新理解高效注意力 |NeurIPS'26

新智元 2026年10月12日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

新智元报道 一直以来,在Transformer架构中,注意力(Attention)与前馈网络(Feed-Forward Network,FFN)被认为是两个功能不同且互补的模块:前者让词元(To