如何解决大模型记忆遗忘问题？

RL训练经验相关问题： 「京东、字节跳动、美团、腾讯、蚂蚁集团、阿里巴巴」

• 强化学习的灾难性遗忘的问题。

• What is catastrophic forgetting, and how do you prevent it during fine-tuning?

• 大模型训练中的灾难性遗忘问题如何缓解？

• 多模态大模型微调过程中如何避免灾难性遗忘？