模型训练与对齐

本分类共 9 个专题 · 761 道题

已筛选

共 761 道题

排序:

4676
RLHF 奖励模型通常采用什么架构,它与待优化语言模型是什么关系?
模型训练与对齐强化学习与奖励
原理机制
进阶
4680
强化学习训练为什么容易不稳定,哪些收益使它仍值得使用?
模型训练与对齐强化学习与奖励
原理机制
进阶
4700
AdaLoRA 如何自适应分配低秩更新的参数预算?
模型训练与对齐参数高效微调
原理机制
深入
4703
P-tuning 如何学习连续提示参数?
模型训练与对齐参数高效微调
原理机制
进阶
4705
混合精度训练如何工作,为什么能改善训练资源效率?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
4706
FP16 训练发生数值溢出时,如何定位和处理?
模型训练与对齐训练框架、调参与排障
故障排查
进阶
4707
训练样本长度不一致时,如何组织批次并减少无效计算?
模型训练与对齐训练框架、调参与排障
方案设计
进阶
4709
继续预训练时 loss 上升是否正常,如何判断和排查?
模型训练与对齐训练框架、调参与排障
故障排查
进阶
4723
什么是过程奖励模型 PRM?
模型训练与对齐强化学习与奖励
概念解释
进阶
4727
大模型强化学习中的监督冷启动是什么,为什么要使用?
模型训练与对齐强化学习与奖励
原理机制
进阶