是否遇到 memory、data 或 CPU/GPU bound,发生在训练还是推理?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

3 篇

快手

AI Infra
一面
查看原面经 →
算子优化常见两类瓶颈是什么

宇树机器人

嵌入式AI岗
一面、二面
查看原面经 →
NPU、GPU、CPU各有什么特点?为什么有的模型搬到加速器上,收益没有预想的大?
一个模型运行很慢,怎么区分瓶颈在计算、内存访问还是数据搬运?

小鹏

智驾 VLA 算法工程师
秋招二面
查看原面经 →
项目追问
回到训练模型,模型训练可能会有几种bound,比如memory bound、data bound、cpu/gpu bound。你遇到过什么问题?
追问
是训练还是推理?

收录题集

1 个来源,共1 份题集

相关题目

4 题