模型基础与推理

本分类共 8 个专题 · 1155 道题

已筛选

共 1155 道题

排序:

4859
BERT 使用字粒度与词粒度表示各有什么优缺点?
模型基础与推理Tokenizer 与位置编码
比较选型
进阶
4861
BERT 为什么在输入前加入 [CLS] Token,如何用于下游任务?
模型基础与推理模型架构与表示
原理机制
基础
4863
点积注意力与加性注意力有什么区别,为什么 Transformer 采用点积?
模型基础与推理Transformer 与注意力
比较选型
进阶
4864
原始 Transformer 为什么将输入词嵌入乘以模型维度的平方根?
模型基础与推理模型架构与表示
原理机制
进阶
4868
使用 GLU 门控的前馈网络如何计算?
模型基础与推理模型架构与表示
原理机制
进阶
4869
GEGLU 前馈块如何计算?
模型基础与推理模型架构与表示
原理机制
进阶
4885
流水线并行推理时,如何减少设备空闲并提高利用率?
模型基础与推理推理优化与模型压缩
方案设计
深入
4891
大模型推理时显存持续增加或请求结束后仍被占用,如何解释和排查?
模型基础与推理推理优化与模型压缩
故障排查
进阶
4893
大语言模型具备怎样的逻辑推理能力,又有哪些局限?
模型基础与推理模型选型与能力边界
开放讨论
—
4934
ELMo 与 BERT 如何利用双向上下文,二者有什么区别?
模型基础与推理模型架构与表示
比较选型
进阶