众所周知，深度学习框架是人工智能的基础技术“底座”，在各大传统产业上也有着巨大的潜力尚待挖掘。5月20日，由深度学习技术及应用国家工程实验室与百度联合主办的“WAVE SUMMIT”2020深度学习开发者峰会召开，百度深度学习平台飞桨携手国家电网和山东信通，打造的电网智能巡检方案作为典型案例亮相，向观众展示了深度学习如何在工业领域实现落地。
百度深度学习技术平台部高级总监马艳军
分享电网智能巡检方案
峰会现场，百度深度学习技术平台部高级总监马艳军详解该落地案例。百度视觉团队基于百度飞桨打造的该方案对输电线路外破隐患的识别分析准确率已超过90%，同时实现秒级报警，可充分保障电力安全。此外，在开发过程中起到关键作用的模型压缩库PaddleSlim和端侧推理引擎Paddle Lite也在当天迎来全新升级发布，进一步提升性能和易用性。
输电线路人工巡检耗时费力
传统可视化监拍方案真空期长
提到“电老大”，人们的第一印象是巨大的铁塔、高耸的电线杆和一眼望不到头的电线，这些设备不分昼夜地将电力输送到中国的每一个城市和乡村。随着城市化建设推进和生活用电需求不断增长，有预测称2020年中国发电量将跳增51%至2073吉瓦，输电线路总长也将超159万千米，这为中国电网的安全运维带来很高的要求，其中一项重要的工作就是输电线路巡检工作。
以往，电力巡检通常依赖人工，这一方式工作量大、劳动强度高，同时工作效率较低，巡视质量不一，且常受恶劣天气等外界因素影响，常常是事故发生了一段时间之后，才能发现并补救。后来有关企业尝试部署可视化监拍装置，再结合人工巡检，随着方案的规模化推广，有效的减少人员工作量和停电跳闸次数，但大多数设备拍照间隔均在半个小时以上，采集真空期依然较长，对于短时隐患的预警及突发情况的追溯不足。
换言之，时效落后、预警缺位等关键痛点，未得到根本解决，火灾或工业机械造成高压电网损坏等问题，依然会不可逆地为生活生产用电带来影响损失，可以说防不胜防。
如果能让智能分析设备真正“智能”起来，自动识别电网设备周围的安全隐患并主动上报，这些问题就可以迎刃而解，但如何实现这一需求？山东信通电子股份有限公司是一家致力于提供电力、通信行业物联网解决方案的高新技术企业，在尝试了传统前端分析、硬件加速类前端智能分析、后端智能分析等方案后，发现各类方案均存在一定的技术瓶颈，于是他们将目光放在了前端深度学习技术上。
百度飞桨的优点：高性能、
轻量化、多硬件、高拓展
经过多个深度学习框架比对，山东信通最终选择了百度飞桨，双方团队经交流研讨之后，一致认为现有智能分析设备的问题在于准确率不足、分析耗时长。于是双方在百度视觉技术的基础上，引入飞桨的模型压缩库PaddleSlim和端侧推理引擎Paddle Lite，最终打造出了这套电网智能巡检方案，并在国家电网山东电力公司的输电线范围内率先应用。
山东信通的研究人员认为，这套方案的核心在于算法模型，而百度飞桨具备高性能、轻量化、多硬件、高拓展的优点，Paddle Lite可针对输电隐患模型进行定制优化提升，在低算力低功耗下仍能有较高推理性能。此外，该方案采用了云边协同，可以随着云端样本更新和模型训练的迭代升级，来进一步优化和适配识别算法的适用场景，不断提升识别精度，降低漏报及误报。
百度飞桨的整体方案带来的识别精度提升非常大，以吊车、塔吊等大型施工机械的识别为例，可以达到96%的识别准确率，而传统前端智能分析仅有80%。另外，应用该方案功耗仅有0.4W。
技术方案详解
电网智能巡检方案使用的是目标检测算法。实际应用中，由无源无线的移动设备进行处理分析。这样的设备存在算力小、功耗低的问题。为了解决这些问题，方案中使用了经典的one-stage目标检测模型YOLOv3。该模型源自飞桨目标检测套件PaddleDetection。最初使用的是基础的YOLOv3，在芯片上模型占用内存360M，运行速度是3500ms，而移动设备上是8916芯片，只有200M不到的空余内存可用。
研发人员经过技术讨论后确定使用飞桨的模型压缩工具PaddleSlim和轻量化推理引擎Paddle Lite可以很好地解决模型难以在小内存设备中运行的问题并保障良好的应用识别效果。PaddleSlim对模型进行裁剪、蒸馏和量化，从而达到降低模型大小，减少运算耗时的目的。Paddle Lite可以帮助模型轻松完成端侧设备部署。
PaddleSlim通过分析各卷积层的敏感度得到各卷积核的适宜裁剪率，通过裁剪卷积层通道数来减少卷积层中卷积核的数量，起到了减小模型体积，降低模型计算复杂度的作用。通过裁剪，使模型的占用内存由360M降低至130M。
为了让小模型的准确率不下降，PaddleSlim继续对裁剪后的模型进行蒸馏优化。由大模型（ResNet34的骨干网络）作为Teacher模型， Student模型的骨干网络是MobileNetV3，在不增加计算量的情况下，提升了裁剪后的小模型的准确率。
最后使用PaddleSlim的量化工具，将神经网络中32位的全精度数据处理成8位或16位的定点数，同时结合硬件指定的乘法规则，就可以实现低内存占用、低功耗、低计算资源占用以及低模型存储需求等。最终将模型的占用内存降低至122M，处理时间也由3500ms降低至2000ms。
在模型部署上，选用了Paddle Lite作为移动端设备的部署平台。Paddle Lite的高易用性、广泛的硬件支持和领先的性能，可以轻松的实现移动端模型的部署，从而最终完成整个预警系统的上线部署。
Paddle Lite提供了模型调用相关的简单接口，可以让应用部署变得简单，该过程主要分为如下几个步骤：
1. 模型配置
lite_api::MobileConfig config;
config.set_model_from_file(model_dir + ".nb");
config.set_power_mode(power_mode);
config.set_threads(thread_num);
2. 创建Predictor
auto predictor = lite_api::CreatePaddlePredictor(config);;
3. 设置输入数据
auto input_tensor = predictor->GetInput(0)
std::vector<int64_t> input_shape = {100, 100};
input_tensor->Resize(input_shape);;
auto input_data = input_tensor->mutable_data<float>();
for (int i = 0; inpute_tensor->numel(); i++) {
input_data[i] = 1;
}
4. 启动推理
predictor-Run();
5. 获取输出结果
auto output_tensor = predictor->GetOutput(0);
auto out_data = output_tensor->data<float>();
for (int i = 0; i <output_tensor->numel(); ++i) {
System.out.println(out_data[i]);
}
小总结
深度学习实现无人巡检即时报警，实战检验保障生产生活用电
相比旧版的智能分析设备，新方案下可视化监拍装置拍照间隔从半小时缩短到5分钟，且实现图像端侧的边缘智能分析，五秒内就可以识别出吊车、导线异物、烟火、塔吊、各类施工机械等安全隐患，分析准确率超过90%，同时模型大小缩小60%，综合功耗也降低了30%，最关键的是，从发现到报警的速度从几小时缩短至20秒，电力工作人员得以及时反应，避免造成生产生活的损失。
这一方案很快迎来了一次“实战检验”。今年3月8日，山东淄博某郊区发生火情，正位于国家电网高压线路下方，可视化监拍装置第一时间拍摄画面并判断为安全隐患，并同步向国网淄博供电公司输电工区运检室的值班人员发出告警信息，值班人员立刻申请线路紧急避险，同时协调运检人员即刻赶往现场处理，一个多小时后，火情被及时扑灭，避免了一场灾难的发生，居民和工厂的用电也未受到影响。
业内主流厂商提供的解决方案下，对单张拍摄画面的分析最快是3秒，而百度飞桨提供的方案是1秒，尤其对施工机械识别非常优秀。目前，输电线路隐患可视化智能管控平台已接入6.5万余台装置，覆盖山东省内17地市5800余条输电线路，每天可处理实时图片200万余张，并发出10万余张的预/告警图片。
PaddleSlim和Paddle Lite迎来全新升级发布，飞桨降低深度学习落地门槛
飞桨在电力巡检方向上的应用，是深度学习落地工业的一个缩影，从中也可以看到人工智能落地产业所面临的难题：技术门槛拦路、模型选型复杂、算力需求过高、效果未达预期、软硬件适配难度大等，只有解决了这些问题，才能实现真正的产业智能化。
值得注意的是，在该案例中大放异彩的两大工具：模型压缩工具PaddleSlim和轻量化推理引擎Paddle Lite在峰会上也迎来了全新的升级发布。据了解，PaddleSlim升级至1.0，功能更加完备，也更贴近实际工业的硬件环境，为企业提供模型的小型化方案，尤其在图像分类、目标检测、语义分割、NLP语义理解等方面得到广泛验证；Paddle Lite则升级发布2.6版本，进一步提升易用性，并全面支持主流通用CPU和GPU，主流模型性能领先业内。
而这是仅是飞桨在峰会现场展现出来的一部分亮点，当天，飞桨开源深度学习平台公布了7项全新发布和23项重大升级，并展现了最新成绩单：累计开发者数量超过190万；服务企业数量达到8万4千家；发布模型数量超过23万个，是国内最领先、服务开发者规模最大、功能最完备的开源开放深度学习平台。
但飞桨最大的成就在于，以领先的深度学习技术为更多企业的智能化转型提供了趁手的工具和助推力，正如百度CTO王海峰在峰会上所表示，时代契机为飞桨的发展提供了最好的机遇，产业智能化浪潮兴起、AI基础设施建设加快推进，飞桨以更敏捷的脚步，秉承开源开放理念，坚持技术创新，与开发者共同成长和进步，一起发展深度学习和人工智能技术及产业生态，加速产业智能化进程。
如在使用过程中有问题，可加入飞桨官方QQ群：1108045677或飞桨推理部署QQ群:696965088
如果您想详细了解更多飞桨的相关内容，请参阅以下文档。
官网地址：
https://www.paddlepaddle.org.cn
飞桨开源框架项目地址：
GitHub:
https://github.com/PaddlePaddle/Paddle
Gitee:
https://gitee.com/paddlepaddle/Paddle
飞桨目标检测套件PaddleDetection项目地址：
GitHub:
https://github.com/PaddlePaddle/PaddleDetection
Gitee:
https://gitee.com/paddlepaddle/PaddleDetection
飞桨模型压缩工具PaddleSlim项目地址：
GitHub:
https://github.com/PaddlePaddle/PaddleSlim
Gitee:
https://gitee.com/paddlepaddle/PaddleSlim
飞桨轻量化推理引擎Paddle Lite项目地址：
GitHub:
https://github.com/PaddlePaddle/Paddle-Lite
Gitee:
https://gitee.com/paddlepaddle/paddle-lite
Paddle Lite还提供了安卓，iOS和ARMlinux的应用工程示例，地址：
https://github.com/PaddlePaddle/Paddle-Lite-Demo
END