腾讯 · WXG

推荐算法面经

完整信息

47 条问法 · 35 道题

本篇目录

总结一下,背了一堆推荐算法的八股,着实没想到拷打大模型八股[牛泪],项目和快手的实习答的还算扎实感觉,最后没有手撕,口干舌燥但是爽的一批[赞]

一、个人经历与实习项目

  1. 请做一下自我介绍,并说明你与这个岗位的匹配点。

  2. 请介绍一下你在快手快聘实习的业务背景、整体链路和个人负责的部分。

  3. 用户意图标签是在进入小程序前生成,还是在对话过程中生成?

  4. 为什么选择 AC 自动机、TextCNN、FastText 和 TinyBERT,而不是更深的模型?

  5. 如果使用大模型进行标签生成,可能会遇到哪些问题?

  6. 如何解决大模型标签生成中的延迟、幻觉和标签冲突问题?

  7. 从大模型蒸馏到小模型通常有哪些方法?

  8. 除了教师模型打标签之外,还有哪些降低模型推理成本的方法?

  9. 大模型生成的标签、轻量模型的训练和模型推理分别是离线还是在线的?

  10. 为什么不直接将蒸馏后的模型用于实时链路?

二、模型基础与文本处理

  1. BERT 的预训练任务和下游任务通常分别使用什么 loss?

  2. 交叉熵损失的数学形式是什么?它具有什么含义?

  3. 如果真实标签分布是 P、预测分布是 Q,KL 散度如何表示?

  4. 交叉熵和 KL 散度之间有什么关系?

  5. ASR 清洗主要解决什么问题?具体有哪些清洗方式?

  6. 如何评估 ASR 清洗对下游 AC 自动机和推荐链路的收益?

三、标签、召回与推荐链路

  1. 用户标签生成后,如何服务后续的召回、排序或策略模型?

  2. 你负责的这一路召回逻辑是什么?

  3. 用户画像与职位之间具体是如何进行匹配的?

  4. 如何评估标签对下游召回和整体链路的实际贡献?

  5. 你们的图召回主要解决什么问题?你具体负责哪些工作?

  6. 图召回中的节点、边和多跳路径是如何设计的?

  7. 图召回会不会导致热门岗位被过度推荐?如何解决热门偏置问题?

  8. 为什么使用图召回,而不是传统的用户—物品行为模型、矩阵分解或双塔模型?

  9. 除了图召回之外,你们的系统中是否还有其他召回路径?

四、排序模型与项目复盘

  1. 请介绍一下你做过的其他项目中最有亮点的一项。

  2. 为什么同时使用 LightGBM 和 LambdaRank?

  3. 静态分和动态分分别在推荐链路中起什么作用?

  4. 粗排和精排之间的一致性具体指什么?如何进行评估?

  5. 精排模型的训练样本、标签、特征和数据分组是如何构造的?

  6. 模型是一次性离线训练,还是会持续进行在线训练?

  7. 如何验证模型融合后确实提升了 NDCG、召回率和最终业务指标?

五、多智能体与强化学习

  1. 你的论文或多智能体项目主要解决什么问题?

  2. 为什么选择 DPO,而不是 PPO 等 on-policy 方法?

  3. DPO 相比 PPO 省去了哪些组件?这样做有什么好处?

  4. 你们既然可以通过规则得到 reward,为什么不直接使用 PPO?

  5. DPO 的核心思想和改进原理是什么?

  6. DPO 的 loss 函数是如何推导出来的?

  7. 强化学习的核心目标是什么?

  8. 从强化学习中的 reward 最大化,到 DPO 中的 chosen / rejected 偏好对,中间进行了什么转换?

六、大模型架构与推理优化

  1. Qwen 或同类大模型通常采用什么样的整体架构?

  2. 大模型中常见的 attention 机制有哪些?

  3. Transformer 的 attention 公式是什么?大模型是否仍然使用这种 attention?

  4. MHA、MQA 和 GQA 分别是什么?

  5. GQA 主要解决什么问题?

  6. KV Cache 解决了什么问题?有哪些常见优化方法?

  7. MHA、MQA、GQA 在 KV Cache 显存占用和模型效果上有什么区别?

<a href="https://www.nowcoder.com/creation/subject/c121d108a0d94e04b8821f14c3acadd5" class="subject font-green" target="_blank" data-nc-subject-type="0" data-nc-subject-tag-id="0">#发面经攒人品#</a> <a href="https://www.nowcoder.com/creation/subject/928d551be73f40db82c0ed83286c8783" class="subject font-green" target="_blank" data-nc-subject-type="0" data-nc-subject-tag-id="818">#面经#</a>

本篇目录
  1. 01
  2. 02
  3. 03
  4. 04
  5. 05
  6. 06
  7. 07
  8. 08
  9. 09
  10. 10
  11. 11
  12. 12
  13. 13
  14. 14
  15. 15
  16. 16
  17. 17
  18. 18
  19. 19
  20. 20
  21. 21
  22. 22
  23. 23
  24. 24
  25. 25
  26. 26
  27. 27
  28. 28
  29. 29
  30. 30
  31. 31
  32. 32
  33. 33
  34. 34
  35. 35
  36. 36
  37. 37
  38. 38
  39. 39
  40. 40
    追问
    从强化学习中的 reward 最大化,到 DPO 中的 chosen / rejected 偏好对,中间进行了什么转换?
  41. 41
  42. 42
  43. 43
  44. 44
  45. 45
  46. 46
  47. 47

同作者面经

相关公司