对于文献《A comprehensive review of artifcial intelligence‑based approaches for rolling element bearing PHM: shallow and deep learning 》的 整理
滚动轴承（REB）故障占REM故障的45％至55％[13，14]，约占电动机故障的41％，其次是定子故障（37％）和转子故障（10％）
第一节：介绍
采集信号可以包括：振动，温度，声发射，声音测量，油屑，激光位移，定子电流监控，转子速度信号监控
用于REB的故障检测、诊断和预后的方法，有三种：
1、基于模型（物理/数学）的方法研究：无法实时（在线）更新。
2、浅层结构：（如人工神经网络（ann）、支持向量机（SVM）等）。数据处理、手工设计的特征提取、特征选择（例如，使用主成分分析（PCA）、线性判别分析（LDA）、独立成分分析（ICA）等）和模型训练。
3、深层结构：基于DL的PHM方法，方法分为（深度）卷积神经网络（CNN）方法，（深度）递归神经网络（RNN）方法，基于受限Boltzmann机器（RBM）的深度神经网络（DNN）方法和基于自动编码器（AE）的DNN。
第二章 滚动轴承（REB）预测和健康管理（PHM）的基础知识
2.1 轴承失效模式
不需要严重的REB故障即可引起振动，噪音甚至设备突然故障。最常见的故障是疲劳，磨损，腐蚀，电蚀，塑性变形以及断裂和开裂。
2.2 REB健康特征
通过传感器收集信号（振动，定子电流，温度，转子速度等）。通常从时域，频域和时频域的原始信号中提取数十个指标或标准（即特征），以检测，诊断和预测REB系统的健康状况。需要的数据大致有60多个。频域[45,46,47,48]中，可以找到功率谱分析，快速傅立叶变换（FFT），离散傅立叶变换（DFT），Welch方法和噪声消除技术。 在时频域[49,50,51]中，众所周知的技术是短时傅立叶变换，Wigner-Ville分布，连续小波变换（CWT），离散小波变换（DWT）和 小波包变换（WPT）
第三章 REB PHM的浅层学习方法
提出了三种类别，统计方法，NN方法和组合方法。
3.1 REB PHM的统计方法
3.1.1 基于LDA
通过最大化类间距（评估不同类别的可分离性）和最小化类内距（评估每个类别内的紧密度）的比例，来减小维数，进行分类。
在轴承故障中主要应用于两方面：1、对滚珠轴承进行分类；2、LDA还被用来作特征的降维技术；
特点：1、强大的统计理论；2、通常由于质心分类；3、强大的降维技术。
缺点及限制：1、不适合多分类（>2)；非线性表现不好；2、训练数据过少时分错率过高；
3.1.2 基于SVM
首先将输入数据非线性映射到特征空间中； 在该特征空间中，构造了线性决策函数。 然后，特征空间的内积被非线性地映射到原始空间。可用来做分类和回归？？对于分类问题，SVM找出具有最佳分离超平面，
在轴承故障中的应用：1、两阶段SVM分类，第一阶段是分为正常和故障两种；第二阶段是对故障类型进行分类。另外，仅使用正常的状态数据被用于自动轴承故障诊断；2、多层内核学习模型，结合了监督方法和降维方法；3、使用改进的蚁群优化算法（IACO）来优化SVM参数。将IACO-SVM用于轴承故障检测；
特点：1、使用完善的模型，可以消除使用特定缺陷轴承的训练数据的需要；2、可以处理非线性数据；3、与NN相比训练速度快。
缺点及限制：1、不太适合多分类；2、需要优化核函数
3.1.3 基于K最近邻的REB PHM
非参数，模型结构主要由数据决定，将历史数据分为几个类别，以对新数据进行分类。KNN的主要有点是学习非常简单额日期额易于解释。适合杂乱的训练数据和复杂目标函数。由于是惰性算法，因此需要存储整个训练数据集，需要比较整个训练样本的距离值，耗时又耗电。
k=3时，测试数据被分为一类（绿色）；k = 6时，测试数据被分为2类（红色和蓝色）。K的最佳选择取决于数据，如果k过大，会降低噪声的影响，但是类别之间的界限不明显，k过小，可获得严格的边界，但是容易受噪声和离群值的影响（可能会有过度拟合的问题）。
在轴承故障中的应用：1、加权KNN分类器的组合；2、KNN与其他分类方法相结合以增强REB故障检测和诊断能力，如：SVM，内核PCA，模糊C均值，二进制差分进化法。 例如：最优的KNN模型与KPCA相结合来处理轴承故障检测和诊断，其中使用粒子群优化方法对KNN进行了优化。
特点：1、学习简单；2、易于解释；3、可以多分类；4、对噪声数据和复杂目标函数可以有效分类；5、可以处理非线性数据。
缺点及限制：1、需要储存全部的训练数据，内存消耗大，需要计算整个训练集的距离，时间消耗大；2、对离群点不能很好处理；3、对系数k的取值很敏感；4、可能会过拟合。
3.1.4 基于极限机（ELM）的REB PHM
以极快的学习速度提供良好的泛化能力，改善了前馈神经网络的学习速度（FNN的速度慢是由于FNN使用基于慢梯度的学习算法进行训练，并且使用这种学习算法对所有网络参数进行迭代调整）。ELM使用单个隐藏层前馈神经网络，可看为一个线性系统，该线性系统采用激活函数来生成学习的输出。
在轴承故障中的应用：1、处理非平稳环境中的增量学习能力，并在类不平衡条件下检测和诊断轴承故障。可在非平稳环境中的增量阶段处理类不平衡数据。在线的故障数据远少于正常数据的数量，文章[84]研究使用ELM进行REB状态检测，可解决在线按顺序收集数据时出现的在线不平衡问题。
特点：1、以极快的学习速度提供良好的泛化性能，适用于实时REB故障诊断；2、在非平稳环境中具有增量学习的能力；3、可以处理非平稳环境中的类别不平衡问题。
缺点及限制：1、很难延申到更深层次结构，隐含层的输入权重和偏置随机选择，可能造成输出节点的不稳定。
3.1.5 REB PHM的其他统计算法
1、模糊分类器 + 基于规则学习的自动决策树分类；2、基于监督学习的局部和非局部保留投影方法；3、学习矢量量化（LVQ)；4、半监督模糊C均值（SFCM）聚类分析；5、针对振动信号的非平稳和非高斯特性，开发了VMD-AR（变分模式分解-自回归） + 随机森林学习分类器诊断REB故障。VMD分解振动信号，获得一系列固定的分量信号，为每个分量模式建立自回归（AR）模型，被当作故障特征向量。最后使用RFL分类器进行模式识别，故障诊断；6、稀疏贝叶斯（SBL）,即RSFM，具有选择相关样本进行回归或分类的能力，且具有避免过度拟合的优势，从而在测试阶段减少了系统复杂性，提高通用性；7、基于迁移学习，用奇异值分解（SVD）作为特征提取工具，主要思想可表述为“利用选择性辅助数据来辅助目标数据分类，其中TrAdaBoost算法中涉及它们之间的权重调整以提高诊断能力。 此外，通过相似性判断可以避免负向转移，从而提高了准确性，并减轻了所提出方法的计算负担。”；8、流形学习 + 小波包变换相结合来检测弱瞬态信号。文中提出了波形特征流形，使用二进制小波包变换获得波形特征空间，用于提取弱信号。
缺点及限制：模糊分类器需要很多数据点，需要事先知识，复杂的决策树
3.2 基于神经网络方法的REB PHM
主要探讨的是基于人工神经网络的浅结构构造。神经网络的基础知识不再重复叙述。
在轴承故障中的应用：1、使用FFT从振动信号中提取频域特征，再训练神经网络来模拟振动的知识；2、使用时域特征（Irms，Iσ2，Isk和Ikur6）来代替频域特征 + NN；3、使用小波包分解提取时频域特征，再使用NN，且对三种ANN进行比较（多层感知器（MLP），径向基（RBF）网络，概率神经网络（PNN））；4、使用匹配追踪分析提取时频域特征，作为前馈神经网络（FFNN）的输入，进行分类；5、文献[117]提出从基于振动的退化信号中预测剩余寿命方法，以估计轴承失效时间。开发两类模型-单轴承和聚类轴承神经网络-来执行REB故障预测；基于NN对时域、频域、时频域特征进行不同组合，来处理故障检测；
特征：1、可以处理非线性数据；2、可以处理多分类，适合故障诊断；3、使用简单
缺点及限制：1、训练速度慢，2、特征提取需要一定的专业知识，3、概括能力弱，4、将分类扩大几个百分点规模增加会特别大；
3.3 基于结合方法的REB PHM
大致有基于NN方法的统计方法，具有信号处理的NN方法，具有信号处理方法的统计算法。
特点：1、合并技术可在高度非线性、非平稳运行条件下更好检测和诊断故障；2、提供在线故障检测和诊断技术
缺点及限制：方法很难解释，合并两种方法可能导致耗时和耗电问题。
浅层学习的限制：基于浅层的REB PHM技术，其性能很大程度上取决于提取的特征（之前表格中给出的时域、频域、时频域），特征优则性能优。SL面临的大数据的挑战有：1、数据方面：特征空间的高维性，多模式数据的扩散（？？？）以及数据测量之间的多重共线性；2、结构方面：数据处理，特征提取，特征选择和模型训练是连续进行的，不能同时优化。增加耗时且增加了复杂性。
第四章 REB PHM的深层学习算法
基于DL的PHM技术是一种通过在分层体系结构中堆叠多层来对不同模式进行分类并可以对数据背后的高级表示进行建模的方法。因为它们可以将原始数据直接作为输入，即表示学习。他们可以从高维数据中学习复杂且高度非线性的表示形式。主要分为4种：基于CNN，基于RNN，基于RBM的DNN和基于AE的DNN方法。
4.1 基于卷积神经网络（CNN）的方法
CNN有两个特点：1、局部连接：图像在子区域内具有较高的相关性，前一层的子区域通过过滤器连接到特征图中的局部斑块。2、共享权重：图案可以出现在图像的各个位置，并且通过对图像进行卷积滤波器，可以不考虑位置提取图案。注：在整个图像上使用相同的滤镜，可以大大减少参数数量。
大致包括卷积层、池化层、全连接层。
1、卷积层的目的：检测上一层的局部相关性并生成不变的局部特征，具有滤波器的数量，滤波器的大小，步幅和零填充等超参数，激活函数线性非线性均可，例如ReLU、S型曲线。
2、池化层的目的：类似于下采样，将这些处理好的局部特征重新进行汇聚成良好的特征，或将多个特征合并为一个特征。例如：最大池(最常用)，平均池，L2-范数池。
3、完全连接层：到上一层（即池化层）中所有激活的完全连接，将二维图像转换成一维向量，然后输入softmax函数进行模型构建。
4、通过堆叠卷积层和池化层来进行特征学习 ，不用池化层的话可以考虑更大的步幅。
在轴承故障中的使用：1、从单层到三层的具有深层结构的卷积神经网络；2、分层自适应DCNN；用于轴承故障检测和诊断的任务比较多，但是对于预测任务没有特别多的研究；3、CNN-SVR：用SVR代替CNN的顶层结构，整体的架构是：输入层，三个卷积层，三个池化层，两个完全连接的层以及一个作为顶层的支持向量回归分类器SVR；4、宽的第一层内核（WDCNN）；5、DCNN和粒子群优化方法以及t分布随机邻居嵌入（t-SNE）技术；6、DCNN + 基于证据融合技术；7、CNN + 基于EMD的特征提取算法，解决振动信号中的非平稳特征；8、基于CNN的深度学习的新层次网络。
特点：1、假设输入为图像；2、与NN相比，模型复杂度更低。3、有许多开放网络可用：GoogLeNet，AlexNet，VGG和Clarifai；4、可以处理非线性数据和噪声信号。
限制：1、需要较高的网络复杂度（即多层）来建模高层次的训练数据；2、高计算成本；3、泛化能力弱。
4.2 基于RNN的REB PHM方法
递归神经网络（RNN）主要特征，上一时刻隐含层的输出会作为这个时刻隐含层输入的一个参考。
RNN在分析顺序信息方面功能强大。但是，它在模型训练的反向传播过程中可能会面临消失的梯度问题。因此，开发了长期短期记忆（LSTM）和门控循环单元（GRU）技术。
在轴承故障中的应用：1、动态递归神经网络（DRNN）可以学习非线性系统的动力学，具有正交模糊邻域判别分析（OFNDA）功能，可用于实时故障检测；2、首先使用连续小波变化（CWT）对振动信号进行预处理，再使用RNN算法进行长期预测。其利用不同的统计参数来作为RNN的输入，根据竞争性学习的原理对其进行聚类，以有效地表示轴承缺陷的状态；3、使用离散小波变换（DWT）进行特征提取，使用正交模糊邻域判别分析（OFNDA）技术进行特征约简，最后使用DRNN方法预测REB状态并对不同的故障进行分类。4、回波状态网络（ESN）和递归多层感知器（RMLP）具有RNN的特征，用于故障预测。这两种方法可在数据量少且时间短的情况下做预测。5、最近有论文将RNN用于故障预测，针对轴承健康状况做预测，猜测是否可用RNN来做RUL预测。
特点：1、可以处理非线性数据；2、分析顺序信息的功能强大；3、一个非常深的网络，其中当前输出取决于所有过去的数据；4、与短期信息配合良好。
限制：1、在反向传播中进行模型训练时经常会遇到梯度消失的问题；2、处理长期信息时可能会遇到问题；3、培训需要大量数据。
4.3 基于RBM的DNN方法用于REB PHM
DNN属于人工NN的范畴，使用深度学习技术（一种逐层学习技术）构建体系结构的DNN具有处理局部最优问题的能力，可以训练网络参数。可以通过受限的Boltzmann机（RBM）或通过自动编码器（AE）技术来构建深度DNN结构。
主要介绍由RBM作为基本学习模块构建的两种模型：深层信念网络（DBN）和深层玻尔兹曼机（DBM）。
DBN:
RBM是对称耦合的随机二进制单元的网络，由可见层和隐藏层组成，层内神经元无连接，层间神经元有连接。将多个RBM堆叠起来可构建DBN（深度信念网络），DBN是具有随机潜在变量（隐藏单元）和生成图形模型的多层NN。有两个训练步骤：第一个是无监督的分层预训练（图中的RBM 1，RBM 2和RBM 3），第二个是有监督的微调（图中的全连接层（FC））。在预训练中，每个隐藏层都用作下一层的可见层。
DBN在轴承故障中的应用：可克服所获取的振动信号中的噪声和瞬态冲击。1、基于希尔伯特包络谱 + DBN；2、基于Weibull分布 + DBN的轴承退化预估；3、DBN + 多传感器信息融合多特征识别轴承故障类别；4、等距特征映射（Isomap） + DBN，评估轴承健康状况，对初期故障更加敏感；5、小波包能量特征实现了一个两层的分层诊断网络（HDN） + SVM，分两个阶段处理REB诊断：轴承故障类型由第一层识别，然后在第二层中识别其严重性等级，有效处理噪声和干扰。
DBN在预测轴承RUL中的应用：1、DBN + 粒子滤波器；2、将DBN作为神经网络分类算法之一，可以直接识别原始时间序列传感器数据，而无需进行特征选择和信号处理；3、DBN前馈神经网络，集成了DBN的自学，特征学习能力和FNN的预测能力；4、卷积深度置信网络（CDBN），首先，使用自动编码器压缩数据并减小尺寸。其次，用高斯可见单位构造了一种新颖的CDBN，以学习其代表性特征。最后，考虑使用指数移动平均线（EMA）来改善构造的深层模型的性能；5、振动图像作为输入 + 预训练的DBN，可用于无监督特征工程，预训练的DBN + 多层感知器（MLP）：故障分类器，预训练的DBN + 自组织图（SOM）：故障群分类；
特点：1、可通过dropout，L2正则化等正则化方法优化，可以处理局部最优问题来固定网络参数；2、不需要太多先验知识或专业知识；3、可以处理非线性数据；4、考虑时间序列数据的临时一致性。
限制：1、需要大量计算，尤其是需要初始化和采样的训练过程中；2、优化过程耗时。
DBM：
基于RBM的DNN结构，该结构堆叠了多个RBM，形成深度玻尔兹曼机（DBM）。
DBM在轴承故障中的应用：1、提取了多个时域，频域和时频域特征 + DBM 做故障诊断，以常规RBM算法和PCA的深层结构为基准的DBM做寿命预测；2、基于高斯受限玻尔兹曼机（Gaussian RBM）算法的振动信号数据诊断方法， 包络谱直接用作特征向量 + 高斯RBM算法做故障分类；3、机械状态健康监测的深度统计特征学习（DSFL）可以通过高斯-伯努利深度玻尔兹曼机（GDBM）构建。将高斯-伯努利限制性波尔兹曼机（GRBM）进行堆叠以开发基于GDBM的DSFL方法。4、寿命预测 ：使用DBM预测未来的L步，通过预测RMS值和轴承失效的时间来预测RUL。
特点：1、可以处理非线性数据；2、处理模糊数据时具有鲁棒性；3、集成自上而下的反馈
限制：1、训练的时间复杂度高于DBN的时间；2、无法很好处理大数据，尤其是在优化网络参数期间。
4.4 基于AE的DNN方法实现REB PHM
自编码器属于无监督机器学习结构，它是由两个阶段组成的前馈NN，即编码器阶段和解码器阶段，主要特征是试图预测输出等于输入。在编码器阶段，将使用权重矩阵W1通过非线性映射从输入向量中提取几个特征以形成隐藏层。在解码器阶段，将通过采用权重矩阵W2以类似的方式预测输出向量以重建原始输入向量。通过训练和堆叠AE的各个层，可以生成基于AE的DNN的各种结构，以提取表示各种工程系统的健康状态的特征。
基于AE的DNN方法在轴承故障中的应用：1、可解决 特征提取和故障诊断和分类问题；2、基于深层AE做故障特征和智能诊断；3、深层AE + 数字小波框架（DWF） + 非线性软阈值方法，首先对故障振动信号去噪，用SAE提取特征，作为BP的输入；4、SDAE + dropout；5、提取时域、频域、时频域特征，做特征维度缩减，基于AE的DNN输出的顶层分类器进行故障分类；6、SAE + softmax回归方法 做多分类；7、短时傅立叶变换（STFT） + 堆叠式稀疏自动编码器（SSAE） + softmax回归 ，自动提取特征，并作故障分类 ；8、基于AE-ELM的诊断方法；9、使用DNN提取了在频域和小波包变换域中提取的高级特征：首先（SDSAE）初始化DNN的权重，然后基于softmax回归和以中位数为中心对那些权重进行微调，最后同时使用SVM和随机森林技术对这些高级特征进行分类；10、SDAE还被用于对原始信号中的随机噪声进行降噪和表示故障特征，11、基于稀疏自动编码器 + DBN的轴承故障多传感器特征融合诊断方法；12、混合特征池 + 基于SAE的DNN ；13、降噪自编码器（DAE）和压缩自编码器（CAE），用于增强特征，故障诊断。14、多通道CNN + 一堆去噪自动编码器（MCNN-SDAE），其中MCNN用于振动信号的无监督特征学习，SDAE提取对噪声具有鲁棒性质的振动特征；15、压缩数据采集 + 基于SSAE的深度学习。16、压缩传感（CS）方法允许对低于奈奎斯特频率的信号进行采样，探索了在不同工作条件下对REB振动信号进行高度压缩的测量。
特点：1、可以从原始信号中提取特征并保证对所考虑故障的敏感性，避免诊断结果不完整和未知类别故障的出现；2、无监督学习；3、不需要太多先验知识或专业知识；4、可以直接处理复杂的非线性数据。
限制：1、在传播过程中可能会出现错误；2、需要预训练阶段；3、可能会有稀疏表示。
第五章：总结
1、尽管基于SL的和基于DL的REB PHM技术在检测和诊断不同的REB故障方面均取得了良好的结果（有时它们以100％的精度达到了完美的结果），但由于缺乏研究方法，它们仍未在行业中采用。这些当代技术（即基于SL和DL的技术）将在实践中应用。因此，学者和行业专家共同努力采用和研究这些策略将是非常有趣的。为了考虑不同的规模，应该研究不同的故障模式（即单一故障模式以及复合故障）以及不同的轴承类型，例如如今越来越多地应用于实际应用中的轴颈轴承和磁性轴承。
2、在PHM领域众所周知，如果存在足够准确的参考模型，则使用基于模型的技术来检测，诊断和预测故障是最佳选择。因此，合并REB的动态模型可以提高REB PHM方法的准确性。此外，由于故障数据非常罕见并且很难从现代工程系统中获取，因此研究人员可以从最近开发的生成对抗网络（GAN）技术中受益，以生成故障数据。
3、尽管基于SL的REB PHM技术和基于DL的REB PHM技术的开发都取得了重大进展，但仍然没有公式或法则可供选择以选择网络几何或超参数的最佳值（例如，层数）以在检测，诊断轴承故障和（最终）预测健康状况方面获得最佳结果。因此，考虑到大多数公司缺乏软件，建模和专业知识来深入了解这些算法并解释其结果的事实，提供一个标准化的平台或至少简化这些算法应具有的深度，将能够整合这些算法将现代技术应用到实际应用中。
4、最后，几乎所有现有的REB PHM，无论是基于浅层学习还是深度学习技术，都只针对REB故障检测和诊断（状态监视）问题。很少有研究涉及REB预后，其目的是预测剩余使用寿命（RUL），目的是提供更好的基于状况的维护（CBM）策略。特别是在滚动轴承轴承PHM领域，尤其是在任何现代工程系统中，尤其是在IoT和大数据时代的来临之年，PHM领域的滚动轴承都将特别关注开始提高CBM的策略