pytorch训练出.pth模型如何在MacOS上或者IOS部署，这是个问题。
然而我们有了onnx，同样我们也有了coreML。
ONNX：
onnx是一种针对机器学习设计的开放式文件格式，用来存储训练好的模型，并进行多种框架模型间的转换。
coreML：
Apple在2017年 MacOS 10.13以及IOS11+系统上推出了coreML1.0，官网地址：https://developer.apple.com/documentation/coreml 。
2018年又推出MacOS 10.14以及IOS12系统上的coreML2.0 https://www.appcoda.com/coreml2/。
coreML框架可以方便的进行深度学习模型的部署，利用模型进行预测，让深度学习可以在apple的移动设备上发光发热。而开发者需要做的仅仅是将model.mlModel拖进xcode工程，xcode工程会自动生成以模型名称命名的object-c类以及多种进行预测所需的类接口。
pytorch – ONNX – coreML
没错，就是这个流程。我们有训练好的.pth模型，通过pytorch.onnx.export() 转化为 .onnx模型，然后利用 onnx_coreml.convert()将 .onnx转换为 .mlModel。将.mlModel拖进xcode工程编写预测代码就可以了。
- pytorch – ONNX
请先查看pytorch官网的onnx模块：https://pytorch.org/docs/stable/onnx.html 。 主要的代码就这一个API, 各个参数意义请查阅文档。
torch.onnx.export(model, dummy_input, “alexnet.onnx”, verbose=True, input_names=input_names, output_names=output_names)；
转换部分代码如下：
batch_size=1
onnx_model_path = “onnx_model.onnx”
dummy_input = V(torch.randn(batch_size, 3, 224, 224), requires_grad=True)
torch_out= torch.onnx.export(pytorch_model, dummy_input , onnx_model_path, verbose=True,input_names=[‘image’], output_names=[‘outTensor’], export_params=True, training=False )
这里有一个需要注意的地方就是input_names和output_names的设置，如果不设置的情况，输入层和输出层pytorch会自动分配一个数字编号。比如下图(用netron工具查看，真是一个很好用的工具 https://pypi.org/project/netron/)。 自动分配的输入名称和输出名称是0 和 199。 这样转换成coreML模型后加载到xcode中会出现"initwith0"这样的编译错误，就是模型初始化的时候不能正确处理这个输入名称0。因此最好是在export的时候将其修改一个名称。
修改之后的模型是这样的，可以看到模型的输入和输出名称都发生的修改：
- onnx – mlModel
这一部分需要安装onnx, github地址： https://github.com/onnx/onnx 以及安装一个转换工具onnx_coreML，github地址：https://github.com/onnx/onnx-coreml 。里面用到了一个coremltools : https://pypi.org/project/coremltools/，这个tool目前仅支持python2.7环境下使用。
安装好后, import onnx ， import onnx_coreML 就可以使用。转换代码如下：
onnx_model = onnx.load(“onnx_model.onnx”)
cml_model= onnx_coreml.convert(onnx_model)
cml_model.save(“coreML_model.mlmodel”)
当然, onnx_coreml.convert有很多参数，可以用来预处理，设置bgr顺序等，请参看github文档介绍。
现在将coreML_model.mlModel拖进xcode工程里，会自动生成一个coreML_model类，这个类有初始化模型，输入 预测 输出等API，编写预测代码即可。
- 在最新的coreML2.0中，支持模型的量化. coreML1.0中处理模型是32位，而在coreML2.0中可以将模型量化为16bit, 8bit, 4bit甚至是2bit。 具体请看apple WWDC视频以及PPT。
模型量化仍然是使用coreMLtool2.0工具，具体代码请查阅这篇博客，写的很详细：https://www.jianshu.com/p/b6e3cb7338bf。 两句代码即可完成量化转换。
郑州不孕不育医院:http://yyk.39.net/zz3/zonghe/1d427.html/郑州不孕不育医院哪家好:http://yyk.39.net/zz3/zonghe/1d427.html/
郑州不孕不育医院排名:http://yiyuan.120ask.com/zzbyby/
沈阳市哪里看胃病好www.sdgc120.com沈阳市哪里胃病治得好www.202sdgc.com沈阳市哪里治胃病最好www.201sdgc.com
沈阳哪里看胃权威www.120sdwc.com 沈阳哪看胃病比较好www.sysdjk99.com沈阳哪家医院治胃治 www.sdgc024.com
沈阳那家医院治胃病比较好http://jbk.39.net/yiyuanzaixian/shxkwckyy/