前言
经过四天的时间才完成yolo模型转换成IR模型，于是在这里记录一下心酸的过程。最终借助github PINTO0309的OpenVINO-YoloV3工程才完成了转换，在这里先感谢作者。
准备
- 电脑
- yolo3权重
- openvino
- 本文树莓派上所用openvino版本链接：https://pan.baidu.com/s/1ujUp4bCujm9GyqP04CQDzw 提取码：68l2
- 本文模型转换所用openvino版本链接：链接：https://pan.baidu.com/s/1Ccrhs8jZWe3sJWLm1RmgQA 提取码：c6eb
- ubuntu16.04
- OpenVINO-YoloV3：链接：https://pan.baidu.com/s/1QRz3m6ijK60DGCFIvo9YYQ 提取码：dwxl
openvino安装
openvino在官网上有安装教程，把必选项安装完，然后测试通过就可以。官网上写了openvino的基本环境要求，我第一次安装是没有配置，测试程序可以通过，但是在转换yolo3是时遇到了问题：
[ ERROR ] List of operations that cannot be converted to IE IR:
[ ERROR ] LeakyRelu (72)
[ ERROR ] detector/darknet-53/Conv/LeakyRelu
........
[ ERROR ] Part of the nodes was not translated to IE. Stopped.
For more information please refer to Model Optimizer FAQ (<INSTALL_DIR>/deployment_tools/documentation/docs/MO_FAQ.html), question #24.
File "object_detection_demo_yolov3.py", line 73, in __init__（这个好像是numpy问题）
assert False, "Invalid output size. Only 13, 26 and 52 sizes are supported for output spatial dimensions"
AssertionError: Invalid output size. Only 13, 26 and 52 sizes are supported for output spatial dimensions
论坛上的结果是，可能是tensorflow版本的问题，但是我随之加上之后也是相似的结果。于是我准备重新安装openvino，在安装之前先配好基本环境要求
A Linux build environment needs these components:
OpenCV 3.4 or higher
GNU Compiler Collection (GCC) 3.4 or higher
CMake* 2.8 or higher
Python* 3.5 or higher
ubuntu16.04上安装有python3.5.2符合要求，然后由sudo apt-get install cmake安装cmake3.5.1，然后由sudo apt-get install python3-pip 安装pip3 8.1.1 千万不要更新pip，不然后面也会出问题，好像是什么找不到mian。然后用pip3 install tensorflow==1.12.0安装，最好是这个版本吧，很多人都是用这个版本成功的，我也是。最后通过pip3 install install opencv_python安装opencv。然后再安装openvino，此后将一帆风顺。
我也选择过windows版本的，然后在将tf模型转换成IR模型的时候遇到了问题：
[ ERROR ] Cannot infer shapes or values for node "detector/yolo-v3/Conv_14/BiasAdd/YoloRegion".
[ ERROR ] 'coords'
[ ERROR ]
[ ERROR ] It can happen due to bug in custom shape infer function <function RegionYoloOp.regionyolo_infer at 0x7f290119b488>.
[ ERROR ] Or because the node inputs have incorrect values/shapes.
[ ERROR ] Or because input shapes are incorrect (embedded to the model or passed via --input_shape).
[ ERROR ] Run Model Optimizer with --log_level=DEBUG for more information.
[ ERROR ] Stopped shape/value propagation at "detector/yolo-v3/Conv_14/BiasAdd/YoloRegion" node.
For more information please refer to Model Optimizer FAQ (<INSTALL_DIR>/deployment_tools/documentation/docs/MO_FAQ.html), question #38.
找了很久也没有找到解决办法，而我在论坛上看到的讨论基本是基于ubuntu16.04的。所以我便在ubuntu上安装的openvino，所以到目前为止我也不知道以上错误的原因，如果有知道的人，看到了我的笔记，还望不吝赐教。
darknet模型转换成tensorflow模型
由于openvino不支持darknet转换，所以先要进行模型转换，这里选择转换成tf模型，再转换成IR模型。 打开OpenVINO-YoloV3工程，把下载好的权重放在OpenVINO-YoloV3-master\weights目录下，然后按照OpenVINO-YoloV3-master\script.txt的指示转换成tf模型。
#============================================
python3 convert_weights.py \
--class_names coco.names \
--weights_file weights/yolov3.weights \
--data_format NHWC
python3 convert_weights_pb.py \
--class_names coco.names \
--weights_file weights/yolov3.weights \
--data_format NHWC \
--output_graph pbmodels/frozen_yolo_v3.pb
#============================================
执行这两个命令之后，在OpenVINO-YoloV3-master\pbmodels目录下就可以生成你想要的tf模型，非常方便。默认输入是416*416，如果需要其他大小，可以到代码里面改。我也用过mystic123/tensorflow-yolo-v3这个工程，但是可能是由于操作原因，最终IR转换没有成功。其间在转换tf时要用 NHWC方式。
tf模型转换成IR模型
要想在openvino上使用yolo3，还需要转换成它的模型，即生成IR模型，包括bin和xml文件。同样按照OpenVINO-YoloV3-master\script.txt的指示将tf模型转换成IR模型，按照需求执行以下任意一个生成FP32，或FP16的模型，树莓派只支持后者。在openvino默认安装的情况下，所有的路径都不需要改。
#==================================================================================
sudo python3 /opt/intel/computer_vision_sdk/deployment_tools/model_optimizer/mo_tf.py \
--input_model pbmodels/frozen_yolo_v3.pb \
--output_dir lrmodels/YoloV3/FP32 \
--data_type FP32 \
--batch 1 \
--tensorflow_use_custom_operations_config yolo_v3_changed.json
sudo python3 /opt/intel/computer_vision_sdk/deployment_tools/model_optimizer/mo_tf.py \
--input_model pbmodels/frozen_yolo_v3.pb \
--output_dir lrmodels/YoloV3/FP16 \
--data_type FP16 \
--batch 1 \
--tensorflow_use_custom_operations_config yolo_v3_changed.json
#==================================================================================
进行到这里，按理说就会得到几个振奋人心的success，这就表明模型转换完成啦，生成的xml和bin文件已经静静的呆在某个位置，等待着你的使用了。。
测试
模型转换成功之后，就可以测试啦。进入OpenVINO-YoloV3-master文件夹，然后python3 openvino_yolov3_test.py。这时电脑的摄像头会被打开，然后你美丽脸会出现在其中，周围会框出人，并且会写xxx%person，原来我们只是像人的生物。
后续
后面我把它运行在树莓派3b+上，结合神经计算棒一代，结果刚一运行就直接黑屏了，增加了swap分区也没有救。OpenVINO-YoloV3里也有运行在计算棒上的程序，这真是一个很棒的程序，不过我在电脑上没有成功，结果是找不到设备，暂时还没有解决。OpenVINO-YoloV3工程作者也说树莓派上应该不能跑yolo3，不过网上有人好像说成功了，不知道他们是怎么做到的。但是yolo3tiny是可以的。yolo2可以直接在树莓派上跑，测试过，需要300秒，真的是等到花儿都谢了。
更新1：在笔记本+神经计算棒一代平台运行yolo3
1.像在树莓派上一样，在电脑上使用神经计算棒也要添加USB规则，而且要复杂一些，不然就会找不到设备。
首先执行它
sudo usermod -a -G users "$(whoami)" |
2. 然后新建一个叫97-myriad-usbboot.rules的文件，然后把以下三个代码拷贝到文件里。
2 |
SUBSYSTEM=="usb", ATTRS{idProduct}=="2150", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666", ENV{ID_MM_DEVICE_IGNORE}="1" |
3 |
SUBSYSTEM=="usb", ATTRS{idProduct}=="2485", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666", ENV{ID_MM_DEVICE_IGNORE}="1" |
4 |
SUBSYSTEM=="usb", ATTRS{idProduct}=="f63b", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666", ENV{ID_MM_DEVICE_IGNORE}="1" |
3.最后依次执行以下代码
sudo cp 97-myriad-usbboot.rules /etc/udev/rules.d/ |
sudo udevadm control --reload-rules |
sudo udevadm trigger |
sudo ldconfig |
rm 97-myriad-usbboot.rules |
至此，usb规则就已经配好，接下来，python3 OpenVINO-YoloV3-master/openvino_yolov3_MultiStick_test.py，将不会出现找不到设备的错误。结果如下。
更新2：树莓派+神经计算棒一代+yolov3
事实证明，树莓派上可以运行yolov3。之前在跑的时候先出现了黑屏现象，然后在终端上出现了以下的问题，最后如NCS论坛上所说，是电源的原因。（树莓派的USB接口有电流限制，默认只能达到600mA。这给外接一些对电流要求较高的设备时会遇到电流不足的问题，导致无法工作或工作不稳定。）
Error retrieving accessibility bus address: org.freedesktop.DBus.Error.ServiceUnknown: The name org.a11y.Bus was not provided by any .service files
E: [xLink] [ 807609] dispatcherEventReceive:308 dispatcherEventReceive() Read failed -1 | event 0x644fee20 USB_READ_REL_RESP
E: [xLink] [ 807609] eventReader:256 eventReader stopped
E: [xLink] [ 808064] dispatcherEventSend:908 Write failed event -1
E: [ncAPI] [ 808069] ncGraphQueueInference:3538 Can't send trigger request
E: [watchdog] [ 808312] sendPingMessage:164 Failed send ping message: X_LINK_ERROR
.................
E: [watchdog] [ 809319] sendPingMessage:164 Failed send ping message: X_LINK_ERROR
解决办法就是找一个自供电hub，然后连上自供电的线，然后就可以顺利运行。如果懒得找，可以访问此链接（记得客服说要线，不然不会送）： https://item.taobao.com/item.htm?spm=a1z10.3-c.w4002-4331626625. 13.7e1156e8BoB79 J&id= 5841 85230094
#==================================================================================
Process Process-1:
Traceback (most recent call last):
File "/usr/lib/python3.5/multiprocessing/process.py", line 249, in _bootstrap
self.run()
File "/usr/lib/python3.5/multiprocessing/process.py", line 93, in run
self._target(*self._args, **self._kwargs)
File "/home/pi/OpenVINO-YoloV3-master/openvino_yolov3_MultiStick_test.py", line 346, in inferencer
thworker = threading.Thread(target=async_infer, args=(NcsWorker(devid, frameBuffer, results, camera_width, camera_height, number_of_ncs, vidfps),))
File "/home/pi/OpenVINO-YoloV3-master/openvino_yolov3_MultiStick_test.py", line 259, in __init__
self.exec_net = self.plugin.load(network=self.net, num_requests=self.num_requests)
File "ie_api.pyx", line 389, in openvino.inference_engine.ie_api.IEPlugin.load
File "ie_api.pyx", line 400, in openvino.inference_engine.ie_api.IEPlugin.load
RuntimeError: Can not init USB device: NC_DEVICE_NOT_FOUND
#==================================================================================
如果出现这个错误，试试把神经计算棒插到其他usb口。
修改.py里的此处，可以改变输入的方式，此处使用的是本地视频，默认是使用摄像头。
#cam = cv2.VideoCapture(0)
#if cam.isOpened() != True:
# print("USB Camera Open Error!!!")
# sys.exit(0)
#cam.set(cv2.CAP_PROP_FPS, vidfps)
#cam.set(cv2.CAP_PROP_FRAME_WIDTH, camera_width)
#cam.set(cv2.CAP_PROP_FRAME_HEIGHT, camera_height)
#window_name = "USB Camera"
#wait_key_time = 1
cam = cv2.VideoCapture("data/input/testvideo4.mp4")
camera_width = int(cam.get(cv2.CAP_PROP_FRAME_WIDTH))
camera_height = int(cam.get(cv2.CAP_PROP_FRAME_HEIGHT))
frame_count = int(cam.get(cv2.CAP_PROP_FRAME_COUNT))
window_name = "Movie File"
wait_key_time = int(1000 / vidfps)yolo3-tiny本地视频结果：由于视频帧率明显大于检测帧率，所以以下结果会出现错位，检测的是前面某帧，但是显示已经到了其他画面。
yolo3本地视频结果：
yolo3摄像头采集处理结果：
更新3
如果在用其他图片而不是用摄像头采集的图片进行测试时，修改openvino_yolov3_MultiStick_test.py如下：
此时会出现边框完全错误的情况，这是因为该程序默认的图片尺寸是320*240，最后恢复也是按照这个尺寸来的，如果用自己的图片不是这个尺寸，就会出现错位情况。
更新4
转换好的YOLO3模型，FP16和FP32格式。
链接：https://pan.baidu.com/s/1Y9zVBIbsB9rEdmIPNy0MfA
提取码：ds2t
