Attention注意力机制的前世今身

©PaperWeekly 原创 · 作者｜马敏博 学校｜西南交通大学硕士生 研究方向｜命名实体识别 总体介绍 注意力机制（Attention Mechanism）最早应用 CV 任务上 ，但最初的论文引用，作者没有找到，如有知晓的，还望在评论中给出。在 NLP 中的最早应用，应该是文献 [1]，机器翻译中对齐与翻译联合学习。 直观地说，注意力机制是衡量重要性权重的向量，或元素之间相关性的表示。 先

>>阅读原文<<