yolov5 onnx模型转为 rknn模型

1、转换为rknn模型环境搭建

onnx模型需要转换为rknn模型才能在rv1126开发板上运行，所以需要先搭建转换环境

模型转换工具模型转换相关文件下载：

将其移动到虚拟机中，找到文件夹中的docker文件 rknn-toolkit-1.7.1-docker.tar.gz 、 model_convert文件夹

加载模型转换工具docker镜像

docker load --input /home/developer/rknn-toolkit/rknn-toolkit-1.7.1-docker.tar.gz

进入镜像bash环境

执行以下指令把工作区域映射进docker镜像，其中/home/developer/rknn-toolkit/model_convert为工作区域，/test为映射到docker镜像，/dev/bus/usb:/dev/bus/usb为映射usb到docker镜像：

docker run -t -i --privileged -v /dev/bus/usb:/dev/bus/usb -v /home/developer/rknn-toolkit/model_convert:/test rknn-toolkit:1.7.1 /bin/bash

2、生成量化图片列表

这一步是把准备好的一些图片，生成图片路径的文本文件，在构建RKNN模型的时候有用处。通过使用真实的样本数据集，RKNN工具可以更好地理解和建模模型的输入数据，从而更好地优化网络结构、权重和量化方案。

在docker环境切换到模型转换工作目录；执行 gen_list.py，会得到一个文本文件pic_path.txt，里面是图片的路径:

cd /test/coco_object_detect
python gen_list.py

gen_list.py内容如下：

import os
import random


def main(image_dir):
	save_image_txt = './pic_path.txt'
	save_val_number = 0

	img_path_list = []

	image_list = os.listdir(image_dir)
	for i in image_list:
		#if os.path.isdir(image_dir):
		#print("i:", i)
		image_path = image_dir + '/' + i
		#print("image_path:", image_path)
		img_path_list.append(image_path)

	#print(img_path_list)

	
	print('len of all', len(img_path_list))

	random.shuffle(img_path_list)

	with open(save_image_txt, 'w') as F:
		for i in range(len(img_path_list)):
		    F.write(img_path_list[i]+'\n')


if __name__ == '__main__':
    image_dir = '/test/quant_dataset/coco_data'  # 图片所在路径，大概500张
    main(image_dir)

3、onnx模型转换为rknn模型

还是在docker环境模型转换工作目录，运行rknn_convert.py

python rknn_convert.py

这一步如果是在虚拟机上运行的话，8GB的内存条win10系统也要用，分配给虚拟机的没多少，3GB也不够执行这一步。

后来我直接在Ubuntu系统执行这一步，8GB系统用一点还剩6.7GB，CPU和内存直接干满

rknn_convert.py 源码：

import os
import urllib
import traceback
import time
import sys
import numpy as np
import cv2
from rknn.api import RKNN


ONNX_MODEL = 'best.onnx' # onnx 模型的路径
RKNN_MODEL = './yolov5_mask_rv1126.rknn'  # 转换后的 RKNN 模型保存路径
DATASET = './pic_path.txt'   # 数据集文件路径

QUANTIZE_ON = True   # 是否进行量化

if __name__ == '__main__':

	# 创建 RKNN 对象
	rknn = RKNN(verbose=True)

    # 检查 ONNX 模型文件是否存在
	if not os.path.exists(ONNX_MODEL):
		print('model not exist')
		exit(-1)

	# 配置模型预处理参数
	print('--> Config model')
	rknn.config(reorder_channel='0 1 2', # 表示 RGB 通道
			    mean_values=[[0, 0, 0]], # 每个通道的像素均值，预处理时对应通道减去该值
			    std_values=[[255, 255, 255]], # 每个通道的像素标准差，每个通道除以该值
			    optimization_level=3, # 优化级别
			    target_platform = 'rv1126', #指定目标平台为rv1126
			    output_optimize=1,      # 输出优化为真
			    quantize_input_node=QUANTIZE_ON)  # 对时输入节点进行量化
	print('done')

	# 加载 ONNX 模型
	print('--> Loading model')
	ret = rknn.load_onnx(model=ONNX_MODEL)
	if ret != 0:
		print('Load yolov5 failed!')
		exit(ret)
	print('done')

	# 构建模型
	print('--> Building model')
	ret = rknn.build(do_quantization=QUANTIZE_ON, dataset=DATASET)
	if ret != 0:
		print('Build yolov5 failed!')
		exit(ret)
	print('done')

	# 导出 RKNN 模型
	print('--> Export RKNN model')
	ret = rknn.export_rknn(RKNN_MODEL)
	if ret != 0:
		print('Export yolov5rknn failed!')
		exit(ret)
	print('done')