模型训练与对齐
本分类共 9 个专题 · 761 道题
训练数据构建与治理
92 题- 训练数据如何合成与筛选？
- SFT 的完整执行流程与训练数据集如何构建？
预训练、续训与 SFT
94 题- 是否独立做过模型训练或微调？
- 预训练、后训练到推理的流程是什么？
参数高效微调
37 题- LoRA 的原理、常见超参数与注入模块是什么？
- LoRA 效果不好时如何定位和改进？
偏好对齐
33 题- DPO 的算法原理是什么？
- SFT 与偏好数据如何构建，如何控制数据污染和分布偏移？
强化学习与奖励
195 题- GRPO 算法如何工作？
- GRPO 相比 PPO 做了哪些改进？
Verifier 与训练评测
15 题- 如何评估微调或训练后模型的效果？
- 工业故障诊断项目如何排除测试污染与 Judge 偏差，证明训练策略收益？
蒸馏与模型合并
19 题- 蒸馏受限时，如何选择后训练方法提升模型能力？
- 项目中的模型蒸馏具体如何实现？
分布式训练与计算硬件
126 题- DCU 与 GPU 有什么区别？
- GPU 的存储层次和计算单元如何组织？
训练框架、调参与排障
150 题- 项目中的强化学习框架是如何搭建的？
- 资源受限的微调中，如何判断学习率过高或过低？