注意力机制(Attention Mechanism) 相关博文汇总


  1. Applying the four-step “Embed, Encode, Attend, Predict” framework to predict document similarity
    这个23页的课件介绍了如何应用“嵌入,编码,出席,预测”框架来预测文档的相似性。

  2. 从RNN、LSTM到Encoder-Decoder框架、注意力机制、Transformer
    该回答梳理了从RNN到注意力机制再到Transformer的发展流程。

  3. 深度学习中的注意力模型(2017版)
    该回答从一个简单的句子翻译问题引出,介绍了注意力机制的原理。

  4. Attention? Attention!
    该篇博文一直在更新,梳理了注意力机制的研究进展相关论文及实现代码。博文目录如下:
    在这里插入图片描述

  5. keras-attention-mechanism
    该仓库使用keras实现了注意力机制,2k+star。关于这个仓库的一个issues很有启发意义:Questions on implementation details

  6. keras实现Attention机制
    一位博主的GRU attention实现。

发布了176 篇原创文章 · 获赞 694 · 访问量 5万+

猜你喜欢

转载自blog.csdn.net/weixin_39653948/article/details/105705315