3月6日，由国际电信联盟、中国信息通信研究院联合主办，人工智能产业发展联盟（AIIA）和中兴通讯承办的国际论坛“AI in 5G——引领新时代论坛”在深圳召开。会上，AIIA正式发布“AIIA DNN benchmark V0.5”首轮评估结果，瑞芯微Rockchip RK3399作为首轮评估产品通过评测。
AIIA DNN benchmark V0.5测试评估主要面向端侧，基于AIIA权威测试平台，在四大典型应用场景下，客观反映具有深度神经网络加速能力的处理器在完成推断任务时的性能。AIIA总体组长孙明俊表示，首轮评估包含四大典型场景和两大类评测指标，指标包含速度（fps）和算法性能，如top1 、top5、mAP、mIoU、PSNR等。这是深度学习处理器领域首次区分整型和浮点对比的Benchmark。
采用28nm的Rockchip RK3399 AI芯片首轮参与评估，评估结果显示，在浮点模型不需要定点化重新训练的情况下，int8计算以精度损失最大为1%的代价,达到了相对于浮点计算两倍的性能。
此外，在Interpretation评测中，AIIA首次尝试在基准测试中将量化和浮点模型分开评测。而Rockchip RK3399开发板同样取得多项优异数据，在业内处于领先水平。
Rockchip RK3399开发板的强悍性能也得益于Tengine, 由OPEN AI LAB开发的一款轻量级模块化高性能神经网络推理引擎，专门针对Arm嵌入式设备优化，并且无需依赖第三方库，可跨平台使用支持Android，Liunx。
Tengine支持各类常见卷积神经网络，包括SqueezeNet，MobileNet，AlexNet，ResNet等，支持层融合、8位量化等优化策略。并且通过调用针对不同CPU微构架优化的HCL库，将Arm CPU的性能充分挖掘出来。如在RK3399平台Cortex-A72单线程运行移动端常用的MobileNet一次只需要111ms。
在IoT设备、智能交互设备、个人电脑、机器人等人工智能设备的创新与研发上，Rockchip均已在技术上展现出领先优势，并在全球人工智能芯片榜单排名Top20。而除了RK3399以外，旗舰级人工智能芯片RK3399Pro同样备受关注，Rockchip首次采用CPU+GPU+NPU的硬件结构设计。芯片集成的NPU（神经网络处理器）融合了机器视觉、语音处理、深度学习等方面的关键技术，片上NPU运算性能高达3.0TOPs，具备高性能、低功耗、开发易等优势。基于RK3399Pro的EAIDK-610Pro开发板已经启动，全新的嵌入式人工智能应用开发平台，将为AI人工智能开发者、合作伙伴产品的多场景、全平台开发和生态布局提供更全面支持。
人工智能芯片大变革时代，人工智能产业发展联盟（AIIA） “AIIA DNN benchmark V0.5”权威测试平台的亮相以及首轮数据发布，将加速人工智能芯片的技术蜕变与进化。
OPEN AI LAB 于2016年12月成立，由Arm中国联合产业伙伴发起，致力于推动芯片、算力、算法、应用和数据等产业链各层次的深度协作，加速人工智能产业化应用部署和应用场景边界拓展，为最终实现万物智能贡献力量。更多：http://www.openailab.com/?cs0311