模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

4732
NTK 长度外推方法如何扩展基于 RoPE 的上下文长度?
模型基础与推理Tokenizer 与位置编码
原理机制
深入
4740
手写 RoPE 旋转位置编码。
模型基础与推理Tokenizer 与位置编码
代码题
深入
4752
用 Python 实现支持长度惩罚的 Beam Search。
模型基础与推理推理与解码
代码题
进阶
4758
手写支持掩码和 KV Cache 的 Multi-Query Attention。
模型基础与推理Transformer 与注意力
代码题
深入
4760
用 PyTorch 实现 Transformer 的逐位置 FFN。
模型基础与推理Transformer 与注意力
代码题
进阶
4762
用 PyTorch 从零实现 RMSNorm。
模型基础与推理模型架构与表示
代码题
进阶
4763
用分块与在线 Softmax 实现简化版 FlashAttention 前向计算。
模型基础与推理推理优化与模型压缩
代码题
深入
4768
如何推导 Softmax 对输入的梯度与 Jacobian?
模型基础与推理机器学习与推荐系统
原理机制
进阶
4770
如何根据束宽、序列长度和词表大小推导 Beam Search 的时间复杂度?
模型基础与推理推理与解码
原理机制
进阶
4772
如何推导 CLIP 图文对比学习损失的梯度?
模型基础与推理多模态与生成模型
原理机制
深入