中信银行

金融科技岗(人工智能)一面面经

完整信息

9 条问法 · 9 道题

本篇目录

本来以为是半结构化行为面,结果是纯纯技术面。
线上15分钟4个面试官,但面试官网络不好几乎都没开摄像头。
感受是误闯天家,大概我不是你们想招的人,快去找infra高手来。

  1. 1分钟自我介绍
  2. 一个请求从进入大模型到流式返回,经历哪些环节,各自作用,涉及哪些资源(实际想问一个请求message的构成)
  3. CUDA 计算优化的原理;为什么同一份通用计算在不同硬件上性能会有差异、必须优化?
  4. 观点题:"所有算子都应该尽量在 GPU 上跑,因为 GPU 快",你认可吗?
  5. 算子融合常见的算法 / 场景
  6. 如何优化算子?(大讲特讲算子优化然后被打断了)
  7. 调算子很辛苦,你有没有调研过 auto-tuning 这类自动调优 / 自动设计的方法?
  8. 接触过多模态大模型调优吗?
  9. 你做过工程层优化还是模型层优化?有没有做过大模型算子调优 / 推理加速?
    #发面经攒人品##秋招面试记录#
本篇目录
  1. 01
  2. 02
    一个请求从进入大模型到流式返回,经历哪些环节,各自作用,涉及哪些资源(实际想问一个请求message的构成)
  3. 03
  4. 04
  5. 05
  6. 06
  7. 07
  8. 08
  9. 09

同作者面经

展开其余 6 篇收起其余 6 篇

相关公司