Finetuning with Sampling: SFT Learns Better Than You Think

AGI研习社 2026年10月03日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

换个数据就能赢:哈佛团队用 MCMC 采样"改造"专家数据,让 SFT 反超 RL这篇来自哈佛大学的工作直击后训练(Post-training)领域最核心的一对矛盾: RL 泛化好、不忘旧知识,但只能