RNN-Encoder Decoder架构中引入的注意力机制

一.简介     注意力机制是在Encoder与Deconder架构中针对输出不一样的序列（分词）在输入序列中所占权重同样，或者使用同一个C向量的不足中，引入了可以学习针对不一样输出序列在不一样输入序列所占的比重不一样的一个机制，例如，“我喜欢足球”与“i like football”这个翻译中，‘i’这个词的翻译明显与“我”这个输入词对应，与后面“喜欢足球”的关系不大，所以，这种注意力机制可以明

>>阅读原文<<