2022.11.27 第三十二次周报

目录

前言

文献阅读:基于组合神经网络和改进多目标优化算法的PM2.5预测新系统——以环渤海经济带为例

背景

当前技术存在的缺陷

本文提供的贡献

流程图

多目标麻雀搜索算法

 多目标多宇宙优化

综述

RNN的数学推导

时间序列预测问题 

要求:

差分推导:

总结


前言

This week studied an article based on neural networks to predict PM2.5.Different neural networks are based on different principles. In this study, a combination of artificial, convolutional, and recurrent neural networks was adopted, which greatly improved the prediction ability of the model.In addition, in terms of deep learning, I learned how to manually derive RNN models.

本周学习了一篇基于神经网络来预测PM2.5的文章。不同的神经网络基于不同的原理。本研究采用人工神经网络、卷积神经网络和循环神经网络的组合,大大提高了模型的预测能力。除此之外,在深度学习方面,学习了如何手动推导RNN模型。

文献阅读:基于组合神经网络和改进多目标优化算法的PM2.5预测新系统——以环渤海经济带为例

--Zhirui Tian, Mei Gai,
New PM2.5 forecasting system based on combined neural network and an improved multi-objective optimization algorithm: Taking the economic belt surrounding the Bohai Sea as an example,
Journal of Cleaner Production,
Volume 375,
2022,
134048,
ISSN 0959-6526,
https://doi.org/10.1016/j.jclepro.2022.134048.

背景

科学技术的进步大大提高了人类的生活质量;然而,化石燃料的过度使用加剧了空气污染。根据联合国和世界卫生组织的估计,由于室外空气污染,每年约有430万人因吸入细颗粒而死亡。

PM2.5的空气质量指标是指粒径为2.5μm或更小的污染物。具体来说,直径小于人类头发直径的二十分之一;因此,阻断这些污染物是困难的。如果直接吸入支气管,它会干扰肺部的空气交换并引起疾病,包括哮喘、支气管炎和心血管疾病。建立准确的 PM2.5预报系统是必要的,它可以及时提醒居民并尽可能减轻污染物的有害影响,而不会干扰居民的生活。

当前技术存在的缺陷

(1)大多数方法忽略数据预处理,这会导致准确性显著下降。尽管一些方法使用EMD技术通过傅里叶变换将原始数据转换为频域,但它们面临着模态混叠和端点效应等问题。

(2)CTM和统计方法需要大量的先验知识或历史数据,这些知识或历史数据往往难以获得,缺乏这些知识或历史数据会导致准确性急剧下降。

(3)大多数人工智能模型使用单个神经网络进行预测;然而,每个数据集中的数据分布是不同的,使用单个神经网络很难获得足够的精度。

(4)单目标优化现已广泛使用;但是,通常只能将精度(MSE/MAPE)设置为优化目标,而忽略了预测稳定性的重要性。

本文提供的贡献

更高级的数据预处理方法

使用VMD代替传统的EMDVMD对采样和噪声具有鲁棒性,可以有效地防止模式混叠,并为EMD中不可避免的问题提供有效的解决方案。

组合神经网络的应用

不同的神经网络基于不同的原理。本研究采用人工神经网络、卷积神经网络和循环神经网络的组合,大大提高了模型的预测能力。

先进的无约束加权算法

采用无约束加权算法得到不同神经网络预测结果的最优权重。我们选择了最先进的多目标蝠鲼觅食算法,并对其进行了改进,使结果更加准确。

一种新的混沌映射方法

我们提出了一种新的混沌映射方法,该方法可以在解区间内生成均匀分布的初始解,并有效提高搜索全局解的能力。

点预测和区间预测相结合

将点和区间预测结合起来。点预测可以提供准确的预测结果,区间预测可以提供更多关于不确定性的信息。点预测和区间预测相结合,更有利于居民根据PM改变动作2.5预测。

流程图

多目标麻雀搜索算法

 多目标多宇宙优化

物理学中的多元宇宙理论是MVO算法背后的灵感来源。宇宙中出现了个体,因为一次巨大的爆炸,多次巨大的爆炸促成了整个多元宇宙人口的诞生。白洞、黑洞、虫洞是多元宇宙理论中的三个核心概念。

我们假设在宇宙和最优宇宙之间总是存在虫洞。公式如下。

xij={ {Xj+TDR∗((ubj−lbj)∗r4+lbj)r3<0.5Xj−TDR∗((ubj−lbj)∗r4+lbj)r3≥0.5xijr2≥WEP

WEP代表虫洞存在的可能性,TDR代表物体在最优虫洞中的转换距离。WEP=min+l∗(max−minL)TDR=1-l1/pL1/p

其中p定义随迭代次数变化的检测速度。p的值越高,本地检测速度越快。

综述

在这项研究中,一种新型的PM型2.5开发了、组合神经网络和改进多目标优化算法相结合的预测系统。我们开发了一种新的混沌映射方法,可以有效增强多目标优化算法搜索全局解的能力。我们的模型在预测和预警方面表现出令人满意的准确性,在点预测和区间预测中都取得了优异的结果。通过实验1验证了组合模型的准确性,所提模型在所有10种模型中均取得了最佳性能。通过实验2验证了VMD方法的先进性。VMD对数据的分解更准确,有效地改进了模型的预测。分别通过实验3和实验4验证了模型的泛化能力和预警能力。我们改进的MOMRFO模型的优越性在讨论部分进行了解释。通过实验 1-4 和两次讨论中描述的实验验证了模型的准确性、先进性和泛化能力。我们的模型的实际意义如下:

1)PM2.5是一个比较严格的空气质量数据。监控PM2.5使我们能够更好地了解空气质量。

2)有必要解决PM2.5引起的问题;因此,控制产生这种粒子的来源很重要。

3)一个PM2.5预测系统不仅为国家环境保护政策的制定提供了数据支撑,也为依法监测和处罚提供了依据。

4)本文提出的组合模型更适合非线性数据或波动较大的数据。对于具有大量先验知识或历史数据的案例,该模型的预测性能与统计模型大致相同;但是,它相对较慢。

RNN的数学推导

我们从一个任务来学习RNN的数学推导,我们假设

t下标指的是当前的时间点。St 是由ht-1 和xt 拼起来,乘上参数W得到的。St 到ht 使用tanh作为激活函数。最后用softmax算概率分布。循环神经网络的循环指的是分析图中划线处的参数,每一轮的h都被输入到下一轮。

需要更新的参数有:
Wyh :2x2的矩阵,表示从h到y的参数矩阵
Whh :2x2的矩阵,表示从前一个h到新的h的参数矩阵
Whx :2x3的矩阵,表示从x到h的参数矩阵
 

首先我们随机生成初始化参数

 然后我们先做正向传播

 然后我们再考虑一下反向传播

所以

 最后,算出三个矩阵一轮训练的梯度,在学习率为一的情况下,新的参数W为原来的值减去梯度,从而更新参数。

时间序列预测问题 

要求:

将任意一个波函数,通过差分推导,写成RNN结构。

简单来说,就是已知一段波,我们预测这个波如何变化。

差分推导:

差分的结果反映了离散量之间的一种变化,是研究离散数学的一种工具,常用函数差近似导数。

总结

 从上周开始就进入了RNN的学习,所以文献阅读的方向也慢慢的偏向循环神经网络。在本周学习了RNN的手推模型,希望从中理解到RNN的底层数学。下周我们将讨论如何将任意一个波函数,通过差分推导,写成RNN结构。

猜你喜欢

转载自blog.csdn.net/weixin_43971717/article/details/128054531