【模型部署】利用opencv Python API 加载与运行Pytorch模型

OpenCV可以调用PyTorch模型。通过将PyTorch模型转换为ONNX格式，然后使用OpenCV中的dnn模块加载和运行模型。

以下是一个使用OpenCV加载和运行PyTorch模型的示例代码：

import cv2
import numpy as np
import torch
import torchvision.transforms as transforms

# 加载模型
model = torch.load('model.pth')
model.eval()

# 转换模型为ONNX格式
dummy_input = torch.randn(1, 3, 224, 224)
input_names = ['input']
output_names = ['output']
torch.onnx.export(model, dummy_input, 'model.onnx', verbose=True, input_names=input_names, output_names=output_names)

# 加载ONNX模型
net = cv2.dnn.readNetFromONNX('model.onnx')

# 加载图像
image = cv2.imread('image.jpg')

# 图像预处理
transform = transforms.Compose([
    transforms.ToPILImage(),
    transforms.Resize((224, 224)),
    transforms.ToTensor(),
    transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
])
image = transform(image).unsqueeze(0)

# 进行推理
blob = cv2.dnn.blobFromTensor(image.numpy(), size=(224, 224))
net.setInput(blob)
output = net.forward()

# 处理输出结果
output = torch.from_numpy(output)
_, preds = torch.max(output, 1)

# 显示结果
print(preds.item())

说明：

1. 首先，使用torch.load函数加载PyTorch模型。
2. 将模型转换为ONNX格式，使用torch.onnx.export函数将模型转换为ONNX格式，并指定输入和输出的名称。
3. 使用cv2.dnn.readNetFromONNX函数加载ONNX模型。
4. 加载图像，使用cv2.imread函数加载图像。
5. 对图像进行预处理，使用torchvision.transforms模块中的transforms.Compose函数将图像转换为模型需要的格式。
6. 进行推理，使用cv2.dnn.blobFromTensor函数将图像转换为模型需要的格式，并将其输入到模型中进行推理。
7. 处理输出结果，使用torch.from_numpy函数将模型的输出转换为PyTorch Tensor，并使用torch.max函数获取最终的预测结果。
8. 显示结果，使用print函数输出预测结果。

注意：在使用OpenCV加载和运行PyTorch模型时，需要将模型转换为ONNX格式。此外，由于PyTorch和OpenCV使用的数据类型和颜色通道顺序不同，因此需要进行数据格式和颜色通道的转换。