已收录文章摘要,完整内容可前往原文阅读。
过去一段时间,SC算法比较火热。借这个机会,正好学习了下SC论文中的公式推导,并复习了下之前一些TIS的相关论文,借这篇文章系统梳理一下LLMRL中的TIM(TrainingInferenceMismatch)问题的根源以及解决方法。为什么关注on-policyLLMRL
已收录文章摘要,完整内容可前往原文阅读。
过去一段时间,SC算法比较火热。借这个机会,正好学习了下SC论文中的公式推导,并复习了下之前一些TIS的相关论文,借这篇文章系统梳理一下LLMRL中的TIM(TrainingInferenceMismatch)问题的根源以及解决方法。为什么关注on-policyLLMRL