返回全部题目← 上一题66 / 195下一题 →题库/模型训练与对齐/Q-3009PPO 的 Value Model 如何训练？知识专题：强化学习与奖励题目类型：原理机制技术难度：进阶相关面经：3 篇题集来源：1 个未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录相关面经收录题集相关题目相关面经3 篇百度Agent 算法工程师2026-07-31实习一面查看原面经 →PPO的Value模型、Reward模型如何训练？GRPO的Reward体系能否迁移到PPO？是否了解GLM5.2技术方案？百度Agent 算法工程师2026-07-07一面、二面查看原面经 →PPO 里的 value model / reward model 怎么训练字节跳动大模型算法工程师2026-05-08暑期实习一面、二面、三面查看原面经 →ppo的critic模型怎么训练的收录题集1 个来源，共1 份题集强化学习与对齐阿东玩 AI · AgentGuide · 2 条原题查看题集 →【Critic模型】Critic模型的作用是什么？它是如何训练的？为什么有了reward model还需要critic model？ 「字节跳动、蚂蚁集团」PPO模型与价值函数价值函数如何进行价值估计？PPO的critic model怎么训练？作用是什么？相关题目4 题0086如何判断强化学习带来的实际收益？同一知识专题题目类型：项目深挖技术难度：进阶相关面经：2 篇0103强化学习包含哪些主要组件？同一知识专题题目类型：概念解释技术难度：基础相关面经：3 篇0104GRPO 算法如何工作？同一知识专题题目类型：原理机制技术难度：进阶相关面经：14 篇0105On-policy 和 Off-policy 有什么区别？同一知识专题题目类型：比较选型技术难度：进阶相关面经：2 篇♥♥♥♥♥← 上一题已到最后一题← 上一题为什么选择 DPO 而不选择 GRPO？下一题 →PPO 的 Reward Model 如何训练？
