多头、多 Batch 的注意力计算如何在 GPU 上并行？

知识专题：分布式训练与计算硬件题目类型：方案设计技术难度：进阶

相关面经：1 篇

未标记

Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~

问 AI

Kimi 千问 ChatGPT

本题目录

相关面经

1 篇

腾讯

AI Infra

2026-03-01

查看原面经 →

追问

多头多batch怎么并行