模型训练与对齐

本分类共 9 个专题 · 761 道题

已筛选

共 761 道题

排序:

4629
参数高效微调 PEFT 如何缓解全参数微调的限制?
模型训练与对齐参数高效微调
原理机制
进阶
4631
常见偏好对齐方法有哪些,应如何比较它们的取舍?
模型训练与对齐偏好对齐
比较选型
进阶
4632
什么是梯度累积,它如何帮助大模型微调?
模型训练与对齐训练框架、调参与排障
原理机制
进阶
4633
有哪些方法可以提高大模型微调的训练速度?
模型训练与对齐训练框架、调参与排障
方案设计
进阶
4677
SFT 数据集是否越大越好,如何判断数据规模与效果的关系?
模型训练与对齐训练数据构建与治理
效果评估
进阶
4678
SFT 与强化学习有哪些优缺点,应如何按任务场景选择?
模型训练与对齐强化学习与奖励
比较选型
进阶
4688
大模型训练为什么需要 Warmup,应如何设置预热步数或比例?
模型训练与对齐训练框架、调参与排障
原理机制
基础
4702
Prefix-tuning 如何通过可训练前缀适配模型?
模型训练与对齐参数高效微调
原理机制
进阶
4704
Prompt-tuning 如何工作,它训练哪些参数?
模型训练与对齐参数高效微调
原理机制
进阶
4722
SFT 后可能出现哪些质量与泛化问题?
模型训练与对齐预训练、续训与 SFT
原理机制
进阶