OPEN AI LAB丨AIoT时代的开放应用平台—Tengine 1.0正式发布

2018年是AIoT元年,2018年初,开放智能机器 OPEN AI LAB Tengine发布0.1版本,一路引领嵌入式AI推理框架设计。Tengine经过一年打磨,在2019年初正式发布1.0版本。Tengine的愿景是成为AIoT时代的安卓,以开放的方式赋能整个产业链,让AIoT应用开发不再难。

放智能机器 OPEN AI LAB Tengine 1.0版本正式发布
放智能机器 OPEN AI LAB Tengine 1.0版本正式发布

Tengine 1.0版本包含以下重大更新:

1. API升级到2.0版本,适配Arm中国周易 AIPU,推理性能与能效比大幅度提升;

2. 更好的TensorFlow模型支持,支持LSTM算子,赋能语音场景;

3. 适配Armv8.2-A CPU构架与Cortex-A55 CPU,支持FP16与INT8点积计算,CPU推理性能飙升;

4. 发布Tengine-APP,帮助新人快速掌握Tengine开发。

Cortex-A55上使用Tengine + HCL FP32/FP16/INT8 精度 MobileNetv1推理性能对比:

AIoT时代的开放应用平台—Tengine 1.0正式发布
Cortex-A55上使用Tengine + HCL FP32/FP16/INT8 精度 MobileNetv1推理性能对比:

至此Tengine依次解决了AIoT应用平台亟需的多数特性:

1. 基于Arm CPU的多线程快速计算与量化计算

2. 全面支持嵌入式的多计算单元的异构计算

3. 开放兼容Caffe/ TensorFlow/ONNX等多种训练模型格式

4. 支持Linux/Android操作系统,和树莓派,Firefly等开源硬件平台

后续Tengine会继续针对AIoT应用场景需求开发新的特性:

1. 增加对TensorFlow-Lite模型的支持,适配AndroidNN;

2. 发布Tengine-M适配Arm Cortex-M CPU;

3. 适配更多NPU和芯片平台。

了解更多Tengine开放平台:

Tengine开源项目 https://github.com/OAID/Tengine

Tengine-APP项目 https://github.com/OAID/Tengine-app

教程分享:

Firefly-3399 https://blog.csdn.net/bassersai/article/details/81563409

树莓派 http://shumeipai.nxez.com/2018/12/07/tengine-inference-engine-raspberry-pi-deep-learning.html

EAIDK主页:即将上线

开发者交流群:QQ 829565581 Question:Tengine Answer:openailab


关于OPEN AI LAB

OPEN AI LAB(开放智能实验室)于2016年12月成立,由Arm中国联合产业伙伴发起,致力于推动芯片、硬件、算法软件整个产业链的深度合作,加速人工智能产业化应用部署和应用场景边界拓展,为最终实现万物智能贡献力量。

业务合作:[email protected]

了解更多:http://www.openailab.com/?csdn010402

猜你喜欢

转载自blog.csdn.net/weixin_43476455/article/details/85764702