模型基础与推理
本分类共 8 个专题 · 1155 道题
Transformer 与注意力
71 题- Transformer 中的 Attention 如何计算？
- Transformer 的整体原理是什么？
模型架构与表示
140 题- 熟悉哪些大模型，它们的结构有何不同？
- 大模型底层实现原理是什么？
Tokenizer 与位置编码
28 题- 位置编码的原理。
- 大模型常见位置编码有哪些，各有什么优缺点？
推理与解码
31 题- Temperature、Top-k 和 Top-p 怎样影响模型采样？
- 什么是上下文窗口，它如何约束提示设计与模型效果？
推理优化与模型压缩
103 题- KV Cache 缓存什么，怎样影响推理速度和显存？
- 上下文压缩后 KV Cache 是否失效？
多模态与生成模型
333 题- 多模态 Agent 中视觉编码器的信息如何与语言模型连接和融合？
- 轨迹模型采用什么动作空间？
机器学习与推荐系统
389 题- 项目中的个性化推荐算法如何实现，整体流程是什么？
- 推荐系统冷启动有哪些处理思路？
模型选型与能力边界
60 题- 项目使用了哪个具体模型与版本？
- 项目使用什么大模型或哪类模型？