蚂蚁集团
AI Infra一面面经
完整信息
本篇目录
最近闲下来了整理下之前的面经攒攒人品！
项目拷打，实习拷打
1.MLA为什么比MHA好?
2.权重吸收中间遇到的问题。
3.KVcache的离线计算与非常用kvcache的卸载加载
4.还有什么kvcache优化的相关的tricks
本篇目录
当前问题0104
- 01
MLA为什么比MHA好?
- 02
权重吸收中间遇到的问题。
- 03
KVcache的离线计算与非常用kvcache的卸载加载
- 04
还有什么kvcache优化的相关的tricks
当前问题0104
MLA为什么比MHA好?
权重吸收中间遇到的问题。
KVcache的离线计算与非常用kvcache的卸载加载
还有什么kvcache优化的相关的tricks