ONNX教程

一. 简介
ONNX (Open Neural Network Exchange)- 开放神经网络交换格式,作为框架共用的一种模型交换格式,使用 protobuf 二进制格式来序列化模型,可以提供更好的传输性能我们可能会在某一任务中将 Pytorch 或者 TensorFlow 模型转化为 ONNX 模型(ONNX 模型一般用于中间部署阶段),然后再拿转化后的 ONNX模型进而转化为我们使用不同框架部署需要的类型,ONNX 相当于一个翻译的作用。典型的几个线路:

  • Pytorch->ONNX->TensorRT
  • Pytorch->ONNX->TVM
  • Tensorflow->ONNX->NCNN
  • Pytorch->ONNX->Tensorflow

二. ONNX结构分析
ONNX将每一个网络的每一层或者说是每一个算子当作节点Node,再由这些Node去构建一个Graph,相当于是一个网络。最后将Graph和这个onnx模型的其他信息结合在一起,生成一个model,也就是最终的.onnx的模型。
构建一个简单的onnx模型,实质上,只要构建好每一个node,然后将它们和输入输出超参数一起塞到graph,最后转成model就可以了。示例信息如下:
在这里插入图片描述

onnx.helper----node、graph、model
在构建onnx模型这个过程中,这个文件至关重要。其中make_node、make_graph、make_

猜你喜欢

转载自blog.csdn.net/qq_33287871/article/details/119494773