中间特征蒸馏如何选层、对齐并设计损失？

知识专题：蒸馏与模型合并题目类型：原理机制技术难度：进阶

题集来源：3 个

未标记

Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~

问 AI

Kimi 千问 ChatGPT

本题目录

收录题集

3 个来源，共3 份题集

推荐搜索与广告

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

「字节跳动、腾讯」
- 知识蒸馏在精排中，teacher-student的离在线一致性，logits蒸馏与feature蒸馏的区别是什么？

03_音频驱动数字人与长视频生成高频考点

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

- 如何将 REPA 思想迁移到唇形对齐或时序特征对齐中？

训练、数据与模型优化：从数据清洗到 LoRA

Onefly · zero2Agent · 2 条原题

查看题集 →