金融科技岗(人工智能)一面面经
完整信息
本篇目录
本来以为是半结构化行为面,结果是纯纯技术面。
线上15分钟4个面试官,但面试官网络不好几乎都没开摄像头。
感受是误闯天家,大概我不是你们想招的人,快去找infra高手来。
本篇目录
当前问题0109
- 01
1分钟自我介绍
- 02
一个请求从进入大模型到流式返回,经历哪些环节,各自作用,涉及哪些资源(实际想问一个请求message的构成)
- 03
CUDA 计算优化的原理;为什么同一份通用计算在不同硬件上性能会有差异、必须优化?
- 04
观点题:"所有算子都应该尽量在 GPU 上跑,因为 GPU 快",你认可吗?
- 05
算子融合常见的算法 / 场景
- 06
如何优化算子?(大讲特讲算子优化然后被打断了)
- 07
调算子很辛苦,你有没有调研过 auto-tuning 这类自动调优 / 自动设计的方法?
- 08
接触过多模态大模型调优吗?
- 09
你做过工程层优化还是模型层优化?有没有做过大模型算子调优 / 推理加速?
