已收录文章摘要,完整内容可前往原文阅读。
当你说“把教师的注意力模式复制给学生就能恢复全部性能”,你是否也默认这是ViT迁移的黄金法则?最新研究却狠狠打了脸:在11个ViT家族中,有4个家族在注意力迁移后性能暴跌5.1%,甚至不如从头训练!更