阿里巴巴
大模型算法二面面经
完整信息
本篇目录
- 在LLM推理里，我们经常听到一个词叫prefill，能解释一下它是什么意思吗？
- 我们来聊聊Transformer的基础吧。能先介绍一下Softmax函数吗？然后整体讲讲Transformer模型，特别是里面的QKV（Query, Key, Value）机制，能详细说说这个过程吗？
- Transformer的训练复杂度还挺高的，尤其是在处理长序列时。你了解哪些工作是致力于降低它训练时间复杂度的？
- 长上下文（long context）是现在LLM的一个研究热点，你都知道有哪些方法可以解决或者缓解长下文问题？
- GQA（Grouped-Query Attention）的原理是什么？它又是怎么实现的？
- 现在主流的大模型，像GPT系列，大多都用的是Decoder-only架构。为什么不采用像T5那样的Encoder-Decoder架构呢？
- LoRA作为一种高效的微调方法，它的核心原理是什么？能讲讲吗？
- 为了优化推理速度，KV Cache是一个很关键的技术。它的原理是什么？
- 我们来聊聊你的项目经历吧。可以挑一个你觉得最有意思的实习、论文或者科研项目详细讲讲。
- 来个场景题吧。假设我们是做电商的，你觉得可以怎么用大语言模型来解决我们的一些实际业务问题？
- 最后来做两道算法题吧。第一道是“无重复字符的最长子串”，第二道是“排序链表”
本篇目录
当前问题0113
- 01
在LLM推理里，我们经常听到一个词叫prefill，能解释一下它是什么意思吗？
- 02
我们来聊聊Transformer的基础吧。能先介绍一下Softmax函数吗？然后整体讲讲Transformer模型，特别是里面的QKV（Query, Key, Value）机制，能详细说说这个过程吗？
- 03
我们来聊聊Transformer的基础吧。能先介绍一下Softmax函数吗？然后整体讲讲Transformer模型，特别是里面的QKV（Query, Key, Value）机制，能详细说说这个过程吗？
- 04
Transformer的训练复杂度还挺高的，尤其是在处理长序列时。你了解哪些工作是致力于降低它训练时间复杂度的？
- 05
长上下文（long context）是现在LLM的一个研究热点，你都知道有哪些方法可以解决或者缓解长下文问题？
- 06
GQA（Grouped-Query Attention）的原理是什么？它又是怎么实现的？
- 07
现在主流的大模型，像GPT系列，大多都用的是Decoder-only架构。为什么不采用像T5那样的Encoder-Decoder架构呢？
- 08
LoRA作为一种高效的微调方法，它的核心原理是什么？能讲讲吗？
- 09
为了优化推理速度，KV Cache是一个很关键的技术。它的原理是什么？
- 10
我们来聊聊你的项目经历吧。可以挑一个你觉得最有意思的实习、论文或者科研项目详细讲讲。
- 11
来个场景题吧。假设我们是做电商的，你觉得可以怎么用大语言模型来解决我们的一些实际业务问题？
- 12
最后来做两道算法题吧。第一道是“无重复字符的最长子串”，第二道是“排序链表”
- 13
最后来做两道算法题吧。第一道是“无重复字符的最长子串”，第二道是“排序链表”