模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

3650
RoPE 是什么,解决什么问题?
模型基础与推理Tokenizer 与位置编码
原理机制已有答案
基础
3685
Tokenizer 的原理是什么,如何影响大模型训练与推理?
模型基础与推理Tokenizer 与位置编码
原理机制面前必看
进阶
3686
大模型常见解码策略有哪些,贪心、Beam Search 与采样如何选择?
模型基础与推理推理与解码
比较选型
进阶
4802
如何估算 KV Cache 显存,并分析批大小和上下文长度的限制?
模型基础与推理推理优化与模型压缩
原理机制
进阶
0536
你了解哪些多模态大模型及其原理?
模型基础与推理多模态与生成模型
原理机制
进阶
1526
大模型底层实现原理是什么?
模型基础与推理模型架构与表示
概念解释
基础
1665
上下文压缩后 KV Cache 是否失效?
模型基础与推理推理优化与模型压缩
原理机制已有答案
进阶
2898
多轮 Agent 对话中 Attention 有哪些局限?
模型基础与推理Transformer 与注意力
原理机制
进阶
3683
大语言模型与传统 NLP 模型有什么区别?
模型基础与推理模型架构与表示
比较选型面前必看
基础
3705
MoE 模型有哪些优势和局限?
模型基础与推理模型架构与表示
比较选型
进阶