DINO 行,DINOv2 不行?注意力迁移在 11 个 ViT 家族里"精神分裂" | 架构不匹配,蒸馏反而成毒药

AIWalker 2026年05月19日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

当你说“把教师的注意力模式复制给学生就能恢复全部性能”,你是否也默认这是ViT迁移的黄金法则?最新研究却狠狠打了脸:在11个ViT家族中,有4个家族在注意力迁移后性能暴跌5.1%,甚至不如从头训练!更