深度学习编译中间件之NNVM(二)编译&安装

参考文档

http://mxnet.incubator.apache.org/install/index.html mxnet官方install手册
http://nnvm.tvmlang.org/how_to/install.html NNVM官方安装指导手册
http://tvmlang.org/2018/01/16/opt-mali-gpu.html Optimizing Mobile Deep Learning on ARM GPU with TVM
https://www.96boards.org/blog/nnvm-tvm-on-hikey960/ NNVM/TVM on HiKey960，讲解了针对ARM硬件的编译安装流程
https://apt.llvm.org/ LLVM下载地址

本文档针对的目标器件为Firefly-RK3399

因为NNVM编译器依赖于TVM和TOPI，所以要考虑软件的依赖关系，我们应该下面的顺序来进行编译：

编译MXNet(host版本)
安装LLVM
编译TVM(host版本)
编译NNVM(host版本)
编译安装TVM runtime(target版本)

编译MXNet(host版本)

因为我们暂时测试的NNVM前端模型是MXNet模型，所以进行编译模型之前要先安装host版本的MXNet。这里我们最简单的通过python-pip的方式进行安装

更新python和pip

sudo apt-get update
sudo apt-get install -y wget python gcc
wget https://bootstrap.pypa.io/get-pip.py && sudo python get-pip.py

安装MXNet

pip install mxnet

验证安装是否成功安装

python
# 进入python运行空间，然后输入以下python代码进行验证
>>> import mxnet as mx
>>> a = mx.nd.ones((2, 3))
>>> b = a * 2 + 1
>>> b.asnumpy()
array([[ 3.,  3.,  3.],
       [ 3.,  3.,  3.]], dtype=float32)
# 如果上述代码执行正确则表示MXNet host版本已经正确安装
>>> exit()

编译TVM(host版本)

安装LLVM

如下图所示TVM对于ARM后端的支持是基于LLVM编译器实现的，TVM对于的LLVM版本的最低要求为4.0

这里写图片描述

扫描二维码关注公众号，回复： 1455344 查看本文章

添加llvm相关的apt-get源

为了保险起见，我们安装LLVM的稳定版本5.0

deb http://apt.llvm.org/trusty/ llvm-toolchain-trusty-5.0 main
deb-src http://apt.llvm.org/trusty/ llvm-toolchain-trusty-5.0 main

上面的脚本只适用于Ubuntu14.04添加LLVM 5.0，如果你使用的是其他的操作系统和LLVM版本可以参考这里。

安装llvm

apt-get install clang-5.0 lldb-5.0

编译TVM

下载软件

git clone --recursive https://github.com/dmlc/nnvm
cd nnvm/tvm
cp make/config.mk .

修改config.mk

LLVM_CONFIG = llvm-config-5.0

编译

make

如果编译正常完成之后，会在tvm目录的lib下面生成一些库文件。

安装TVM python package

在安装之前先在/etc/bash.bashrc中设置PYTHONPATH环境变量

export PYTHONPATH=/path/to/tvm/python:/path/to/tvm/topi/python:${PYTHONPATH}

重启命令行以重新加载PYTHONPATH

通过setup.py安装TVM python package

# 安装tvm python package
cd python
python setup.py install
# 安装tvm topi python package
cd ../topi/python
python setup.py install
cd ../..

编译NNVM(host版本)

cd nnvm # nnvm对应的路径
cp make/config.mk .
make

如果编译正常完成之后，会在nnvm目录的lib下面生成一些库文件。

安装NNVM python package

在安装之前先在/etc/bash.bashrc中设置PYTHONPATH环境变量

export PYTHONPATH=/path/to/nnvm/python:${PYTHONPATH}

重启命令行以重新加载PYTHONPATH

通过setup.py安装NNVM python package

# 
cd python
python setup.py install