从 LR（学习率） 到 ELR（有效学习率），重新理解大模型预训练的调度策略

已收录文章摘要，完整内容可前往原文阅读。

为什么训练初期可以容忍更高的峰值 ELR，甚至常常能从中受益，而训练后期却更适合缓慢、近似线性的衰减？