已收录文章摘要,完整内容可前往原文阅读。
Policy gradient是一种实现方式。Reward是一种feedback representation。PPO、GRPO是一些非常优秀的optimization machinery。但真正值得问的问题也许是:如果下一步的模型真的应该比现在更好,那么那个“更好的局部分布”究竟是什么?
已收录文章摘要,完整内容可前往原文阅读。
Policy gradient是一种实现方式。Reward是一种feedback representation。PPO、GRPO是一些非常优秀的optimization machinery。但真正值得问的问题也许是:如果下一步的模型真的应该比现在更好,那么那个“更好的局部分布”究竟是什么?