美团
AI Infra面经
完整信息
本篇目录
攒人品中～
1.介绍一下Transformer的架构，和传统RNN循环神经网络相比有何优势
2.Transformer中参数都分布在哪里，参数量最大的是哪部分?计算量最大的是哪部分，为什么?
3.了解GPU的cudacore、Tensorcore吗，你常用的GPU有哪些，他们的显存和显存带宽有多大?
4.讲讲大模型的量化，讲量化算子
5.详细讲pd分离
6. 详细讲paged atten
7.LC25题:K个一组翻转链表
8.写cuda算子:前缀和。实现一个base的，讲优化方法
9.写cuda算子gemm:实现一个base的，讲优化方法
本篇目录
当前问题0109
- 01
介绍一下Transformer的架构，和传统RNN循环神经网络相比有何优势
- 02
Transformer中参数都分布在哪里，参数量最大的是哪部分?计算量最大的是哪部分，为什么?
- 03
了解GPU的cudacore、Tensorcore吗，你常用的GPU有哪些，他们的显存和显存带宽有多大?
- 04
讲讲大模型的量化，讲量化算子
- 05
详细讲pd分离
- 06
详细讲paged atten
- 07
LC25题:K个一组翻转链表
- 08
写cuda算子:前缀和。实现一个base的，讲优化方法
- 09
写cuda算子gemm:实现一个base的，讲优化方法