ubuntu openVINO安装&配置

安装ubuntu16.04版openVINO

参考官网安装教程:
https://docs.openvinotoolkit.org/latest/_docs_install_guides_installing_openvino_linux.html#install-openvino

注意的点:

1 配置tensorflow等模型优化器的时候,官网使用的是sudo pip命令安装依赖包,但是由于我们有虚拟环境,所以我需要在虚拟环境中安装
首先,激活虚拟环境
然后,由于我的虚拟环境存在tensorflow和numpy,所以不需要安装这两个,
制作去掉这两个安装包的requirements_tf_tzlmodify.txt,然后使用pip install -r 进行安装。
2 修改/opt/intel/的权限为tongzhlin
sudo chown -R tongzhilin:tongzhilin /opt/intel
sudo chown -R tongzhilin:tongzhilin ~/intel
3 执行Demo文件夹下的脚本的时候,报错找不到‘yaml’
由于我们使用的是virtualenv虚拟环境,所以正确的安装是:
激活虚拟环境后
pip install PyYAML
4 demo/下的两个脚本,不用sudo执行也可以成功,如果需要打开图片,则需要sudo执行。
5
demo_squeezenet_download_convert_run.sh:脚本会自动下载和安装依赖包,并且下载测试Caffe模型将其转成OpenVINO的xml/bin文件,测试图片是一张轿车照片。

依赖包安装在:~/inference_engine_samples_build
源码在:/opt/intel/openvino/deployment_tools/inference_engine/samples
Caffe模型下载到 ~/openvino_models
demo_security_barrier_camera.sh:物体识别,车牌识别.同上面的命令也会自动下载安装依赖包,自动下载openvino的模型
6 linux下识别VPU需要更新usb驱动规则
source /opt/intel/openvino/bin/setupvars.sh
cd /opt/intel/openvino/install_dependencies
./install_NCS_udev_rules.sh

模型转换指令

参考官网:
https://docs.openvinotoolkit.org/latest/_docs_MO_DG_prepare_model_convert_model_tf_specific_Convert_FaceNet_From_Tensorflow.html

通过meta转换,这个命令总是转换失败,还没有解决
./mo_tf.py --input_meta_graph ~/facenet/models/20180402-114759/model-20180402-114759.meta --output_dir ~/openvino_models/ --freeze_placeholder_with_value “phase_train->False” --reverse_input_channels
通过pb文件转换
facenet提供了模型转换工具,把checkpoint模型转换成pb模型
python src/freeze_graph.py ./models_cslead/20190528-141841/ ./models_cslead/20190528-141841/20190528-141841.pb
pb转换:
./mo_tf.py --input_model ~/facenet/models_cslead/20190528-141841/20190528-141841.pb --output_dir ~/openvino_models/facenet/20190528-141841/ --freeze_placeholder_with_value “phase_train->False” --reverse_input_channels
参数:
–input_shape “[1,160,160,3]”
–data_type=FP16 #vpu支持的浮点格式

模型转换成功后,vpu不能使用转换后的模型

1 我们的facenet模型,是通过Inception Resnet v1网络训练,而Movidius Neural compute stick 2支持Inception Resnet v2网络不支持v1网络,1代计算棒支持v1和v2网络。同时,需要注意的是,虽然1代计算棒支持V1网络,但是,openVINO不支持v1网络,所以,要想使用v1网络训练的facenet,只能通过ncsdk。经过验证,ncsdk支持Inception Resnet v1,但是v2网络我没有验证。
问题详见帖子:https://software.intel.com/zh-cn/node/802451

这种说法被验证是错误的,正确见2
2 在openVINO环境下,很长一段时间我转换的facenet模型在第一代和第二代计算棒上的返回结果都是1和-1,不能使用,非常苦恼,我以为是1所描述的问题,但是并不是,openVINO完美支持Inception Resnet v1和Inception Resnet v2,而且计算棒1代和计算棒2代也完美支持Inception Resnet v1和Inception Resnet v2网络,最终的解决方法是:
(1)cpp文件的FP32改成FP16
(2)由于cpp没有float16精度,所以需要我们自定义这个精度,预白化后的图像,转换成float16精度,传给计算棒。
(3)同理,输出结果也要由float16精度转换成float32精度
(4)满足以上条件后,你会发现,结果依然是1,-1…,这就要修改最为关键的一步,打开转换后的模型,找到最后的“Normalize”项,across_spatial=“0” 改成 across_spatial=“1”,这就OK拉,兴奋。

验证

cd /home/tongzhilin/inference_engine_samples_build/intel64/Release

cpu
./classification_sample -i ~/facenet/data/lfw_data/lfw_160/Rose_Linkins/Rose_Linkins_0001.png ~/facenet/data/lfw_data/lfw_160/Rose_Marie/Rose_Marie_0001.png -m ~/openvino_models/facenet/20190528-141841/20190528-141841.xml

./classification_sample -i ~/facenet/data/lfw_data/lfw_160/Alberto_Fujimori/ -m ~/openvino_models/facenet/20190528-141841/20190528-141841.xml

vpu
./classification_sample -i ~/facenet/data/lfw_data/lfw_160/Rose_Linkins/Rose_Linkins_0001.png ~/facenet/data/lfw_data/lfw_160/Rose_Marie/Rose_Marie_0001.png -m ~/openvino_models/facenet_fp16/20190528-141841/20190528-141841.xml -d MYRIAD

./classification_sample -i ~/facenet/data/lfw_data/lfw_160/Rose_Linkins/ -m ~/openvino_models/facenet_fp16/20190528-141841/20190528-141841.xml -d MYRIAD

python 指令
python classification_sample.py -i ~/facenet/data/lfw_data/lfw_160/Rose_Linkins/Rose_Linkins_0001.png ~/facenet/data/lfw_data/lfw_160/Rose_Marie/Rose_Marie_0001.png -m ~/openvino_models/facenet_fp16/20190528-141841/20190528-141841.xml -d MYRIAD

python classification_sample.py -i ~/facenet/data/lfw_data/lfw_160/Rose_Linkins/Rose_Linkins_0001.png ~/facenet/data/lfw_data/lfw_160/Rose_Marie/Rose_Marie_0001.png -m ~/openvino_models/facenet/20190528-141841/20190528-141841.xml

编译

cd /home/tongzhilin/inference_engine_samples_build/classification_sample

cp ~/inference_engine/samples/classification_sample/main.cpp /opt/intel/openvino/inference_engine/samples/classification_sample/

发布了12 篇原创文章 · 获赞 1 · 访问量 5382

猜你喜欢

转载自blog.csdn.net/kakasxin/article/details/91865191