A Cross-layer based mapping for spiking neural network onto network on chip

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接: https://blog.csdn.net/soulmate_uu/article/details/98952072

———————————————————————————————————————————————————————

  • 发表时间——2018.2
  • 作者——Yande Xiang,浙江大学(没找到这位教授);孟建熠 复旦大学
  • 摘要——片上网络提供基于分组和可扩展的互连结构,用于脉冲神经网络。然而,现有的神经映射方法仅将群体的所有神经元按顺序分布到片上网络核心或附近核心。由于群体之间没有联系,基于群体的映射会降低不同人之间的神经元间通信性能。

本文提出了一种基于Cross-Layer的神经映射方法,该方法将属于相邻层的突触连接神经元映射到同一个片上网络节点。为了适应各种输入模式,该策略还考虑了输入脉冲率并重新映射神经元以提高映射效率。该方法有助于降低核心间通信成本。实验结果证明了所提出的映射策略在脉冲传输延迟以及动态能量成本改善方面的有效结果。

———————————————————————————————————————————————————————

———————————————————————————————————————————————————————

1.介绍及相关工作

本文的主要贡献包括:
(1)提出了一种基于神经网络的神经映射策略,该策略采用跨层方法对神经元和突触进行映射;
(2)提出了神经映射聚类机制,以保证同一聚类内的所有神经元都是相互连接的;
(3)提出了一种动态神经映射方法,该方法对于适应实时应用中的各种输入模式具有重要意义。

2. 基于NoC的脉冲神经网络系统模型

(1)脉冲神经元模型:采用LIF模型
(2)脉冲神经网络模型:以有向图表述的模型,全连接
(3)NoC模型:2D mesh NoC模型
(4)能量模型:计算耗能+通信耗能

3. 现存的神经映射方案及本文的策略

(1)现存:基于群体的神经映射
(2)本文:

  • CLAMP策略(Cross-LAyer based neural MaPping)
    考虑到SNN网络之间复杂而大规模的互连以及NoC中所采用的神经阵列结构,提出的基于跨层的映射策略试图最小化总跳数,降低脉冲传输成本。因此,有必要将相互连接的脉冲神经元合并到同一个片上网络核心中,使每个神经阵列内的脉冲传输增多,通过路由器之间的链路实现的脉冲传输减少。
    在这里插入图片描述
  • CLAMP策略中的神经集群机制
    实现神经聚类机制的动机是尽可能减少基于NoC的SNN之间的总跳数,根据上述提出的神经映射策略,目前还无法保证被映射的神经元与最后几个被映射的神经元之间存在突触连接,它们可能只与最后一个映射神经元相连。通过神经集群机制,同一神经集群内的所有映射神经元完全互联。
    挑选下一个要被映射的神经元时,不仅考虑是否与上一个被映射的神经元是否有突触连接,还要考虑是否与自己同一个阵列内的其他已被映射的神经元是否有任何突触连接。
    例:第k层的N2映射完之后,下一个将被映射的第k+1神经元要考虑到是否与N0\N2有连接。

在这里插入图片描述

  • 动态神经重映射
    上述提出的是基于神经元间连接的拓扑结构,在具体应用中是固定的。
    然而,在实时执行大规模的SNN应用程序时,如视觉对象识别,输入模式是多种多样的,相应的输入层神经元会产生不同数量的脉冲,静态神经映射不能很好地适应输入脉冲速率的各种分布。
    因此,根据特定的输入模式动态地勾画出输入脉冲速率,并对神经元进行重构,以满足脉冲传输效率和能量消耗的要求是十分必要的。

动态CLAMP(D-CLAMP)通过输入神经层中神经元的输入脉冲率来选择神经元。 具有较高脉冲速率的非映射神经元更倾向于被选择。当输入脉冲模式改变时,可以选择每两个相邻层的神经元进行重新映射。 在选择合适的片上网络核心来重新映射特定神经元之后,D-CLAMP估计这些核心中每个变化的神经元数量。 仅当核心中已更改的神经元数量超过给定阈值时,才会在核心中执行重新映射过程,这有利于最小化重新映射开销。

4.实验结果

在手写数字和边缘提取的应用中,其神经元之间的互连类型不同,神经映射算法将峰值平均传输延迟降低了最大42.83%,动态能量最大降低了36.29%。

PS:这篇文章的#相关工作#方面总结得比较好

猜你喜欢

转载自blog.csdn.net/soulmate_uu/article/details/98952072