AI Infra：训练、推理与 GPU 平台工程
如何用 Roofline 和算术强度指导 CUDA 算子优化？从 GEMM 分块到寄存器压力如何逐层定位？
原题FlashAttention 为什么更快？Online Softmax、Tiling、重计算和不同版本分别解决什么瓶颈？
原题KV Cache 占用如何计算，为什么不能只按请求数做容量规划？
原题如何从模型结构估算参数量、FLOPs、训练显存、推理访存与 MFU？
原题如何估算 All-Reduce/All-to-All 通信量并实现计算通信重叠？拓扑和 RDMA 如何影响结果？
原题GPU 内存层次如何使用？Pinned Memory、Shared Memory、Bank Conflict 与异步 H2D/D2H 分别解决什么问题？
原题vLLM/SGLang 的请求调度与 Continuous Batching 如何工作？请求被抢占后如何恢复？
原题大模型训练吞吐低时，如何用 MFU、Profiler、通信和流水线空泡定位瓶颈？
原题CUDA 的 Thread、Warp、Block、Grid 和 SM 如何映射？SIMT、同步与 Warp 分歧如何影响性能？
原题FP8、NVFP4、INT8 与 W4A16 的数值格式、缩放粒度和硬件执行路径有何不同？
原题
暂无题目