一、文章信息
《TA-STAN: A Deep Spatial-Temporal Attention Learning Framework for Regional Traffic Accident Risk Prediction 》
西南交通大学2019年发表在“International Joint Conference on Neural Networks ”上的一篇文章。
二、摘要
交通事故风险的准确高效预测对于减少交通事故数量至关重要，同时也有助于解决个人旅途的安全问题。文章首先提到自己的一个研究角度不同点：基于实际的行政管理划分区域，而不是采用绝大多数研究者采用的道路网格划分。在考虑交通流这一影响因素上，文章也有所不同，是按照机动车的类型来划分交通流，而不是作为一个整体来考虑。为了考虑局部区域与全局区域对预测结果的影响，使用时空注意力网络，同时也融入了其它影响因素数据。采用的数据集是New York City，与6种Baseline进行比较，并可视化了加入注意力权重对模型结果的影响。
三、简介
文章首先指出最近和大多数在交通事故风险预测上的研究文章主要区域研究方式是基于图网格，也就是将整个城市化成一个正方形，然后通过某种特点细化网格填入静态基础数据，这种方法存在一个问题：破坏了地理的固有属性，打破了空间上固有的地理信息，同时预测结果很难匹配到原始的区域。因此文章采用纽约市出租车行政管理划分的区域进行研究，如下图所示。
同时文章考虑交通流作为主要的影响因素，因此将交通事故数据和交通流数据定义成一个数据表达。
文章的主要贡献如下：
- 考虑本级区域和全局（其它）地区对本级区域的影响。也就说，在相同的一个划分区域内，不同因素之间的影响也比较大，比如时间的流动性等；而对于其它区域，特别是交通流动性，其它区域的流动对本地区的影响也是比较大的。文章的解决方案是设计了一个时空注意力机制，包括本区域空间注意力机制、全局区域空间注意力机制和时间注意力机制。作者也提到文章是首次应用时空注意力机制的深度学习框架来研究交通事故风险预测的问题。
- 考虑环境因素的影响。设计用于辅助具有外部特征的时空注意机制进行最终预测。
- 使用真实的纽约市交通事故数据集验证模型的有效性和更优性，同时通过可视化各部分注意力权重，来说明注意力权重的实际意义。
文章再次强调首要问题：
行政区的人为划分将打破区域的整体格局，造成预测的偏差。
四、模型概述
文章介绍深度学习框架TA-STAN（一种编解码框架），主要包含三个部分：
1、空间注意力机制。也就是在编码阶段，使用两个空间注意力机制（本级区域空间和全局区域空间），来捕获交通事故与交通流之间的动态影响。
2、时间注意力机制。关联编解码阶段的时间戳。
3、外部特征提取。在解码阶段，提取如天气、时间、道路设计等可能影响交通事故发生的外部特征。
对于注意力机制的概述可以看下原文：
这里值得一提的是全局区域空间注意力机制上，文章分为两种情况：一种是具有区域及影响的，也就说不同时间流动下，区域之间存在差异；另外一种情况就是所有区域共有的特征，这是就不区分区域级别的差异了。因此这里需要计算两种全局区域空间注意力。这样做的目的文章也解释了，可以减小模型计算的高额代价。
所以从上图可以看到在空间注意力机制上有三个部分，最后只需提取三个空间输入，并将这三个输入合并为一个输入到编码器。
在时间注意力机制计算 上，关键就是将解码器的每个时间戳t’与编码器的每个时间戳t建立联系，文章为了考虑历史时刻状态对未来时间戳的影响，在计算原向量到目标向量的注意力分数时加入了解码器前一时间戳的隐藏状态值Dht’-1。
最后给出文章的结果比较：
同时文章也给出了对编解码框架中五个组件的比较和解释，加入和不加入又有什么样的性能提升，以此来验证文章原本的思路是正确的。
最后文章还结合案例数据分析结合可视化的形式，说明注意力权重的实际意义。
五、总结
总的来说文章理解起来不难，主要在两方面做了创新：一个就是不采用主流的地图网格划分的方式研究区域关系；另外一个就是针对解决不同的问题和考虑因素，引入多种注意力机制。我觉得在交通事故风险预测的研究上，这两个点子还是比较新颖的。
这里再给出该文作者的2019年硕士论文：《基于深度学习的交通事故风险预测研究与实现》-中国知网
http://cdmd.cnki.com.cn/Article/CDMD-10613-1019692801.htm
