注意力机制Attention Machnism是什么以及为什么

大脑在处理信号信息时是有一定的权重划分的，注意力机制正是模仿了大脑的这种核心特性。注意力机制可以帮助模型对输入的每个部分富裕不用的权重，抽取出更加关键及重要的信息，使模型做出更准确的判断，同时不会对模型的计算和存储带来更大的开销，这是注意力机制应用如此广泛的原因。 下面我们结合Seq2Seq模型来讲解注意力机制。 1、不引入注意力机制的Seq2Seq模型有什么问题？ 在Seq2Seq模型中，解码阶

>>阅读原文<<