深度学习的attention机制笔记

原文　关于深度学习中的注意力机制，这篇文章从实例到原理都帮你参透了　不能转载，就自己摘要了一些． attention机制源于人类快速处理视觉信息的大脑机制．通过重点关注目标区域，抑制无关区域，从而从大量信息中快速筛选出有价值的信息 Encoder-Decoder 框架 目前attention机制主要依赖于encoder-decoder框架 上图为Encoder-Decoder框架的抽象表示． En

>>阅读原文<<