注意力机制的解读

先看原始的机器翻译的模型 左边的是编码器，右边的是解码器。什么意思呢？就是左边部分输入中文，然后编码器前向传播传递到尽头后，传入解码器，解码器通过编码器传入的值，先输出第一个翻译出来的英文单词，然后把输出的第一个英文单词输入第二块，输出第二个英文单词，以此类推。便可以实现机器翻译。 但是这样做，会出现一个问题，就是对长句子的翻译能力不好。就像没有复习长难句的人去看英语阅读，看不懂。这时，便引入了注

>>阅读原文<<