模型部署精华 · ONNX 与 TensorRT

题集来源:Rocky Ding(WeThinkIn)收录项目:AIGC-Interview-Book查看原题集 反馈(在 GitHub 新标签页打开)

题目目录

23 道原题
  1. ONNX为什么能作为不同训练框架和推理框架之间的桥梁?

    原题
  2. ONNX由哪些主要组件组成?Graph、Node、Tensor和Opset分别表示什么?

    原题
  3. (进阶)ONNX的Opset版本为什么会影响模型部署兼容性?

    原题
  4. 为什么模型部署中常用中间表示而不是直接使用训练框架模型?

    原题
  5. 中间表示如何帮助推理框架做图优化、硬件适配和跨平台部署?

    原题
  6. (进阶)ONNX、TorchScript、TensorRT Engine和OpenVINO IR有什么区别?

    原题
  7. PyTorch模型导出ONNX的基本流程是什么?

    原题
  8. 导出ONNX时dynamic_axes、opset_version和input_names/output_names分别有什么作用?

    原题
  9. (进阶)如何验证导出的ONNX模型与PyTorch原模型输出一致?

    原题
  10. ONNX Runtime的Execution Provider是什么?常见EP有哪些?

    原题