边缘智能:现状和展望
文献来源:李肯立,刘楚波.边缘智能:现状和展望[J].大数据,2019,5(03):69-75.
摘要：边缘智能(即将人工智能融入边缘计算,部署在边缘设备)作为更快更好地提供智能服务的一种服务模式,已逐渐渗入各行各业。然而,当前边缘智能面临着巨大挑战。首先简要介绍了边缘智能的起源与概念;然后总结了边缘智能面临的三大挑战;最后,概括了当前针对边缘智能挑战的5个研究方向。为相关读者了解边缘智能和相关人员研究边缘智能提供一定的参考。
背景
- 互联网时代的到来和无线网的普及，网络边缘的设备数量和产生的数据量都急剧增加。
- 智能终端设备成为人们生活的一部分，人们对服务质量要求进一步提升，在这种情况下，以云计算为代表的的集中式处理模式将无法高效地处理边缘设备产生的数据，无法满足人们对服务质量的需求。
- 实时性不够
- 带宽不足
- 当前人工智能大部分计算任务部署在云计算中心等大规模计算资源集中的平台上，这极大地限制了人工智能带给人们的便利。
边缘计算
- 边缘计算是部署在边缘终端设备（路由器、路由交换机、集成接入设备、多路复用器，以及各种城域网和广域网接入设备。）和云计算中心之间的一种新型计算模型。
- 边缘计算的资源是指从数据源到云计算中心路径上的任意计算和网络资源，是一个连续系统。
- 边缘计算优点。
- 边缘设备处理了部分产生的临时数据，不再需要将全部数据上传至云端，只需要传输有价值的数据，这极大地减轻了网络带宽的压力，且减少了对计算存储资源的需求。
- 在靠近数据源端进行数据处理，能够大大地减少系统时延，提高服务的响应时间。
- 边缘智能是指终端智能，它是融合网络、计算、存储、应用核心能力的开放平台，并提供边缘智能服务，满足行业数字化在敏捷连接、实时业务、数据优化、应用智能、安全与隐私保护等方面的关键需求。将智能部署在边缘设备上，可以使智能更贴近用户，更快、更好为用户地提供智能服务。
边缘智能面临的挑战
人工智能方法主要包括训练和推断两部分。训练主要是利用已知结果的大量数据来训练模型，即根据已有的大量数据来拟合模型及参数。推断主要是用拟合好的模型对未知结果的数据结果进行预测。训练过程需要大量的计算资源和存储资源。将人工智能部署在边缘设备上，主要面临以下几个挑战。
- 计算、存储、能耗等资源受限。
- 边缘网络资源不足。
- 人工智能在“边缘”并行困难。
边缘智能研究的方向
他研究的方向有：边云协同、模型分割、模型压缩、减少冗余数据传输以及设计轻量级加速体系结构。其中，边云协同、模型分割、模型压缩主要是减少边缘智能在计算、存储需求方面对边缘设备的依赖；减少冗余数据传输主要用于提高边缘网络资源的利用效率；设计轻量级加速体系结构主要针对边缘特定应用提升智 能计算效率。
- 边云协同。将训练过程部署在云端，而将训练好的模型部署在边缘设备。
- 模型分割。它是一种边缘服务和终端设备协同训练的方法。将计算量大的计算任务卸载到边缘端服务器进行计算，而计算量小的计算任务则保留在终端设备本地进行计算。然而，不同的模型切分点将导致不同的计算时间，因此需要选择最佳的模型切分点，以最大化地发挥终端与边缘协同的优势。
- 模型裁剪。在不影响准确度的情况下裁剪训练模型，如在训练过程中丢弃非必要数据、稀疏数据表示、稀疏代价函数等。如下图所示。
- 减少冗余数据传输。为了节省带宽资源，部分研究人员在不同的环境中提出了各式各样减少数据传输的方法，主要表现在边云协同和模型压缩中。例如，只将在边缘设备推断有误的数据传输到云端再次训练，以减少数据传输；在不影响准确度的情况下移除冗余数据，以减少数据的传输。
- 设计轻量级加速体系结构。比如：针对压缩、裁剪环境下的网络模型设计一个加速器；采用可编程硬件加速，即对不同种类的应用使用同一硬件重写编程加速，以提高资源利用率，减小加速硬件的面积；利用可重构硬件特性，针对多种应用设计加速体系结构，在维持硬件面积的同时扩大应用范围。