资源受限的微调中,如何判断学习率过高或过低?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

2 篇

佰聆数据

助理AI应用开发工程师
实习一面
查看原面经 →
你有微调过大模型吗,说说训练过程中的学习率的高低怎么判断的?训练的loss 上升? eval的loss下降?就可以判断学习率过高?学习率过高有什么措施调整?

佰聆数据

AI 应用开发工程师
实习一面
查看原面经 →
你有微调过大模型吗,那既然你说资源受限,说说训练过程中的学习率的高低怎么判断的?

相关题目

4 题