Convierta el modelo de pytorch en un modelo ncnn disponible en Windows

1: Primero proporcione algunas URL de herramientas para descargar
(1) protobuf: https://github.com/protocolbuffers/protobuf/releases/tag/v3.7.1 (uso protobuf-all-3.7.1.zip Versión)
(2) onnx-simplifier
https://github.com/daquexian/onnx-simplifier (tenga en cuenta que no es necesario descargar, solo use pip para instalar, la instrucción de instalación es: pip install onnx-simplifier)
(3) ncnn
https: //github.com/Tencent/ncnn
2: compile protobuf con cmake
(1) Cree una nueva carpeta llamada mybuild-vs2015 en el directorio protobuf-3.7.1
(2) Use el símbolo del sistema de herramientas nativas VS2015 x64 para ingresar Descomprima el directorio
cd / d D: \ onnx_android_ncnn \ protobuf-all-3.7.1-test \ protobuf-3.7.1 \ build-vs2015
(3) cmake -G "NMake Makefiles" -DCMAKE_BUILD_TYPE = Release -DCMAKE_INSTALL_PREFIX =% cd instalar -Dprotobuf_BUILD_TESTS = OFF -Dprotobuf_MSVC_STATIC_RUNTIME = OFF… / cmake
nmake
nmake install
Una vez completada la compilación, hay 4 carpetas debajo de la carpeta de instalación: bin, camke, include, lib
3: compile ncnn
(1) crea una nueva carpeta llamada mybuild-vs2015 en el directorio ncnn-master
(2) usa VS2015 x64 El símbolo del sistema de la herramienta nativa ingresa al directorio de descompresión
(3)
cmake -G "NMake Makefiles" -DCMAKE_BUILD_TYPE = Release -DCMAKE_INSTALL_PREFIX =% cd% / install
-DProtobuf_INCLUDE_DIR = D: / onnx_android_ncnn / protobuf-all-3 / protobuf-all-3 protobuf-3.7.1 / build-vs2015 / install / include
-DProtobuf_LIBRARIES = D: /onnx_android_ncnn/protobuf-all-3.7.1-test/protobuf-3.7.1/build-vs2015/install/lib/libprotobuf.lib
-DProtobuEX_PROTOC_ = D: /onnx_android_ncnn/protobuf-all-3.7.1-test/protobuf-3.7.1/build-vs2015/install/bin/protoc.exe ...
nmake
nmake install
4: Conversión de modelo:
(1)
Ingrese el código:
importar antorcha
import torchvision
import torch.onnx
import cv2 as cv
mean = torch.tensor ([0.485, 0.456, 0.406], dtype = torch.float32)
std = torch.tensor ([0.229, 0.224, 0.225], dtype = torch.float32)
model = torchvision.models.resnet18 (pretrained = True)
x = torch.Tensor (cv.cvtColor (cv.resize (cv.imread ('11 .jpg '), (224,224)), cv.COLOR_BGR2RGB)). float ( ) /255.0
x = (x-mean) / std
x = x.contiguous ()
x = torch.Tensor.unsqueeze (x.permute ([2,0,1]), dim = 0)
model.eval ()
con torch.no_grad ():
pre = torch.Tensor.argmax (model (x))
torch_out = torch.onnx._export (model, x, “resnet18.onnx”, export_params = True, keep_initializers_as_inputs = True)
pre1 = torch.Tensor .argmax (torch_out, 1)
print (pre, pre1)
(Nota: keep_initializers_as_inputs = True debe establecerse en True; de ​​lo contrario, se informará un error cuando se simplifique el modelo)
(2) Simplificación del modelo
python -m onnxsim resnet18.onnx resnet18-sim.onnx
(3) Get ncnn Archivo bin reconocido y archivo param
onnx2ncnn resnet18-sim.onnx resnet18-sim.param resnet18-sim.bin

Publicado 36 artículos originales · ganado elogios 1 · vistas 6384

Supongo que te gusta

Origin blog.csdn.net/qq_34291583/article/details/102838598
Recomendado
Clasificación