Transformer 为什么通常使用 LayerNorm 而不是 BatchNorm?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

1 篇

字节跳动

推荐大模型算法岗
一面、二面
查看原面经 →
追问
Transformer 中改用 BatchNorm,为什么训练、推理结果会不一致

收录题集

3 个来源,共9 份题集

模型架构与注意力

Firefly · llm_interview_note · 1 条原题

查看题集 →

公司案例问答汇编

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

大模型基础面试题

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

理论基础面试题

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

快手高频面试题

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →
展开剩余 4 份题集

深度网络架构

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

注意力机制

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

多模态理论知识

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

02_视频生成核心基础架构模型

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

相关题目

4 题