模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

0268
Self-Attention 为何利于并行训练,与 RNN 相比有哪些局限?
模型基础与推理Transformer 与注意力
比较选型已有答案
进阶
0485
项目为什么选择本地部署模型或调用 API?
模型基础与推理模型选型与能力边界
比较选型已有答案
进阶
0503
模型剪枝、GPTQ 与 AWQ 量化方法。
模型基础与推理推理优化与模型压缩
比较选型已有答案
进阶
0512
大模型常见位置编码有哪些,各有什么优缺点?
模型基础与推理Tokenizer 与位置编码
比较选型
进阶
0516
模型如何实现超长上下文能力?
模型基础与推理推理优化与模型压缩
原理机制
进阶
0572
Self-Attention 为什么需要 Scaling?
模型基础与推理Transformer 与注意力
原理机制已有答案
进阶
0616
如何解决模型像复读机一样重复生成的问题?
模型基础与推理推理优化与模型压缩
故障排查已有答案
进阶
0666
Transformer 有哪些优劣势,与其他架构相比如何?
模型基础与推理Transformer 与注意力
比较选型已有答案
进阶
2835
Dense 模型与 MoE 模型有什么区别?
模型基础与推理模型架构与表示
比较选型
进阶
2917
投机解码的原理是什么?
模型基础与推理推理与解码
原理机制
进阶