【论文泛读01】利用遥感微波传感器数据预测交通速度的LSTM神经网络

论文链接:《Long short-term memory neural network for traffic speed prediction using remote microwave sensor data》一、摘要近年来,神经网络已广泛应用于短期交通预测。本研究提出了一种新的神经网络结构——长短期神经网络(LSTM NN),以有效地捕获非线性交通动态。LSTM神经网络克服了通过记忆块反向传播的错误衰减问题,在长时间依赖性的时间序列预测中表现出优越的能力。此外,LSTM神经网络可以自动确定最优时
分类: 其他 发布时间: 02-11 10:22 阅读次数: 0

《百面机器学习》读书笔记(四)-降维

全部笔记的汇总贴:《百面机器学习》-读书笔记汇总在机器学习中,数据通常需要被表示成向量形式以输入模型进行训练。但众所周知,对向维向量进行处理和分析时,会极大地消耗系统资源,甚至产生维度灾难。因此,进行降维,即用一个低维度的向量表示原始高维度的特征就显得尤为重要。常见的降维方法有主成分分析、线性判别分析、等距映射、局部线性嵌入、拉普拉斯特征映射、局部保留投影等。一、PCA最大方差理论在机器学习领域中,我们对原始数据进行特征提取,有时会得到比较高维的特征向量。在这些向量所处的高维空间中,包含很多的冗余和噪
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec7)-保凸变换(上)

全部笔记的汇总贴(视频也有传送门):中科大-凸优化{x∣x≤0}\{x|x\le0\}{x∣x≤0}是凸集,是多面体x0=0,xz=−∞x_0=0,x_z=-\inftyx0​=0,xz​=−∞是单纯形S+n    n=2    S+n={(xtyz)∣x≥0,z≥0,xz≥y2}S_+^n\;\;n=2 \;\; S_+^n=\{\begin{pmatrix}x & t \\y & z\end{pmatrix}\Big|x\ge0,z\ge0,xz\ge y^2\}S+n​n=
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec9)-广义不等式、分离与支撑超平面、对偶锥与广义不等式

全部笔记的汇总贴(这一节的视频缺失):中科大-凸优化内容是自己看书上的三节整理的,和前面几节一样,算是一些基础性的理论知识。只能说这一块儿先就这样,后面的课程如果遇到需要进行补充学习的地方,再进行加强。一、广义不等式二、分离与支撑超平面类似于SVM三、对偶锥与广义不等式...
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

【论文泛读02】大数据交通流预测:一种深度学习方法(SAE模型)

贴一下汇总贴:论文阅读记录论文链接:Traffic Flow Prediction With Big Data:A Deep Learning Approach一、摘要准确、及时的交通流信息对智能交通系统的成功部署至关重要。在过去的几年里,交通数据呈爆炸式增长,我们真正进入了交通大数据时代。现有的交通流预测方法主要采用浅层交通预测模型,在许多实际应用中仍不满足要求。这一情况促使我们重新思考基于大交通数据的深度架构模型的交通流预测问题。本文提出了一种基于深度学习的交通流预测方法,该方法考虑了交通流的时空
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

《百面机器学习》读书笔记(五)-非监督学习

全部笔记的汇总贴:《百面机器学习》-读书笔记汇总给机器输入大量的特征数据,并期望机器通过学习找到数据中存在的某种共性特征或者结构,亦或是数据之间存在的某种关联。相比于监督学习,非监督学习的输入数据没有标签信息,需要通过算法模型来挖掘数据内在的结构和模式。非监督学习主要包含两大类学习方法:数据聚类和特征变量关联。其中,聚类算法往往是通过多次迭代来找到数据的最优分割,而特征变量关联则是利用各种相关性分析方法来找到变量之间的关系。一、k均值聚类分类问题属于监督学习的范畴,而聚类则是非监督学习。K均值聚类(
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

sci-hub google chrome扩展安装失败 “key cannot be used with manifest_version 3” 解决方法

修改 manifest.json 文件中字段(没有其他工具的话,可以直接记事本打开)将 "manifest_version": 10,修改成"manifest_version":2 ,
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

【论文泛读03】卷积LSTM网络:一种短时降雨量预测的机器学习方法

贴一下汇总贴:论文阅读记录论文链接:《Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting》一、摘要短时降雨量预报的目的是预测局部地区在较短时间内的未来降雨强度。以前很少有研究从机器学习的角度来研究这一至关重要且具有挑战性的天气预报问题。在本文中,我们将短时降雨量预报定义为一个输入和预报目标都是时空序列的预测问题。通过扩展全连接LSTM (FC-LSTM),使其在输入到状态和状态到状态的
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec10)-凸函数:一阶条件

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、凸函数的扩展f:Rn→Rf:\R^n\rightarrow\Rf:Rn→R为凸函数,dom  f=C⊆Rndom\;f=C\subseteq\R^ndomf=C⊆Rnf~={f(x)      x∈dom  f+∞        x∉dom  f\tilde{f}=\left\{ \begin{array}{l}f(x)\;\;\;x\in dom\;f \\ \\+\infty\;\;\;\;x\notin dom\;f\end{array
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec2)-什么是凸优化?

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、优化问题的几种分类线性规划/非线性规划【早期分类】(由于线性约束的存在,线性规划的最优点和可行点一般都是在边界上,所以单纯形法之类的算法是有用的。)fi(αx+βy)=αfi(x)+βfi(y)∀i=0,1,⋯ ,mf_i(\alpha x+\beta y)=\alpha f_i(x)+\beta f_i(y)\\\forall i=0,1,\cdots,mfi​(αx+βy)=αfi​(x)+βfi​(y)∀i=0,1,⋯,m凸规划/
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec4)-凸集和凸锥

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、凸集(Convex Set)仿射集一定是凸集凸集(Convex Set):一个集合CCC是凸集,当任意两点之间的线段仍在CCC内。CCC为凸集⇔\Leftrightarrow⇔∀x1,x2∈C,∀θ,θ∈[0,1],θx1+(1−θ)x2∈C\forall x_1,x_2\in C,\forall\theta,\theta\in[0,1],\theta x_1+(1-\theta)x_2\in C∀x1​,x2​∈C,∀θ,θ∈[0,1],θx1
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec6)-几种重要的凸集(下)

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、多面体(Polyhedron)P={x∣ajTx≤bj  j=1,⋯ ,m,cjTx=dj  j=1,⋯ ,r}P=\{x|a_j^Tx\le b_j\;j=1,\cdots,m,c_j^Tx=d_j\;j=1,\cdots,r\}P={x∣ajT​x≤bj​j=1,⋯,m,cjT​x=dj​j=1,⋯,r}② √有界多面体二、单纯形(Simplex)一种特殊的多面体。Rn\R^nRn空间中选择v0,⋯ ,vkv_0,\cdots,v
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec8)-保凸变换(下)

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、椭球是球的仿射映射ε={x∣(x−xc)TP−1(x−xc)}    P∈S++n{u∣  ∣∣u∣∣2≤1}      P12P12=P\varepsilon=\{x|(x-x_c)^TP^{-1}(x-x_c)\}\;\;P\in S_{++}^n\\\{u|\;||u||_2\le1\}\;\;\;P^{\frac12}P^{\frac12}=Pε={x∣(x−xc​)TP−1(x−xc​)}P∈S++n​{u∣∣∣u∣∣2​≤1}P21​P2
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec11)-凸函数:二阶条件

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、凸函数的定义(复习)f:Rn→Rf:\R^n\rightarrow\Rf:Rn→R 为凸函数⇔domf\Leftrightarrow dom f⇔domf为凸集∀x,y∈domf,0≤θ≤1有f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y)\forall x,y\in dom f,0\le\theta\le1有f(\theta x+(1-\theta)y)\le\theta f(x)+(1-\theta)f(y)∀x,y∈domf,0≤
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec12)-一些常见的凸函数(上)

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、二次函数f:Rn→R            domf=Rnf:\R^n\rightarrow\R\;\;\;\;\;\; dom f=\R^nf:Rn→Rdomf=Rnf(x)=12XTPX+δTX+r,      P∈Sn,δ∈Rn,r∈Rf(x)=\frac12X^TPX+\delta^TX+r,\;\;\;P\in S^n,\delta\in\R^n,r\in\Rf(x)=21​XTPX+δTX+r,P∈Sn,δ∈Rn,r∈R∇2f(x)
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

【论文泛读04】用神经网络进行序列到序列(seq2seq)学习

贴一下汇总贴:论文阅读记录论文链接:《Sequence to Sequence Learningwith Neural Networks》一、摘要深度神经网络(DNNs)是一种功能强大的模型,在困难的学习任务中取得了优异的性能。尽管DNNs在有大型标记训练集的情况下工作良好,但它们不能用于将序列映射到序列。在这篇文章中,我们提出了一种一般的端到端方法来学习序列,它对序列结构做出最小的假设。我们的方法使用多层长短期记忆(LSTM)将输入序列映射到一个固定维数的向量,然后使用另一个深度LSTM从向量中解
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

《百面机器学习》读书笔记(六)-概率图模型

全部笔记的汇总贴:《百面机器学习》-读书笔记汇总对于这一部分不太熟悉的,可以看看这篇文章里的视频学习一下:白板推导系列笔记(九)-概率图模型对于一个实际问题,我们希望能够挖掘隐含在数据中的知识。概率图模型构建了这样一幅图,用观测结点表示观测到的数据,用隐含结点表示潜在的知识,用边来描述知识与数据的相互关系,最后基于这样的关系图获得一个概率分布,非常“优雅”地解决了问题。概率图中的节点分为隐含节点和观测节点,边分为有向边和无向边。从概率论的角度,节点对应于随机变量,边对应于随机变量的依赖或相关关系,其中
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

中科大-凸优化 笔记(lec13)-一些常见的凸函数(下)

全部笔记的汇总贴(视频也有传送门):中科大-凸优化一、log-sum-exp(解析逼近)f(x)=log⁡(ex1+⋯+exn)        x∈Rnf(x)=\log(e^{x_1}+\cdots+e^{x_n})\;\;\;\;x\in\R^nf(x)=log(ex1​+⋯+exn​)x∈Rnmax⁡{x1,⋯ ,xn}≤f(x)≤max⁡{x1+⋯+xn}+log⁡n\max\{x_1,\cdots,x_n\}\le f(x)\le\max\{x_1+\cdots+x_n\}+\log nma
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

【论文泛读05】基于Conv-LSTM的短期交通流预测

贴一下汇总贴:论文阅读记录论文链接:《Short-Term Traffic Flow Prediction with Conv-LSTM》一、摘要准确的短期交通流预测能够提供及时准确的交通状况信息,帮助人们做出出行决策,缓解交通拥堵。深度学习(Deep learning, DL)为城市日常交通产生的大数据分析提供了一种新的范式。在本文中,我们提出了一种新型的端到端深度学习体系结构,它由两个模块组成。我们将卷积和LSTM相结合,形成一个convl -LSTM模块,提取交通流的时空信息。采用双向LSTM模
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0

《百面机器学习》读书笔记(七)-优化算法

全部笔记的汇总贴:《百面机器学习》-读书笔记汇总优化是应用数学的一个分支,也是机器学习的核心组成部分。实际上,机器学习算法 = 模型表征 + 模型评估 + 优化算法。其中,优化算法所做的事情就是在模型表征空间中找到模型评估指标最好的模型。不同的优化算法对应的模型表征和评估指标不尽相同,比如经典的支持向量机对应的模型表征和评估指标分别为线性分类模型和最大间隔,逻辑回归对应的模型表征和评估指标则分别为线性分类模型和交叉熵。随着大数据和深度学习的迅猛发展,在实际应用中面临的大多是大规模、高度非凸的优化问题,这
分类: 其他 发布时间: 02-11 10:21 阅读次数: 0