输入遮蔽与注意力掩码有什么区别，MLM 为什么不能仅屏蔽注意力分数？

知识专题：预训练、续训与 SFT题目类型：比较选型技术难度：进阶

题集来源：1 个

未标记

Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~

问 AI

Kimi 千问 ChatGPT

本题目录

收录题集

1 个来源，共1 份题集

深度网络架构

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

- BERT的mask为何不学习Transformer在attention处进行屏蔽score的技巧？