attention 机制

deep learning中的Attention mecanism是参考人脑的注意力模型，例如我们看到一张照片时，虽然我们可以看到整张全貌，但当我们仔细观察的时候，我们的眼睛只聚焦在照片中比较小的一部分，大脑主要也是关注这一区域，换句话说这个时候人脑对照片的关注并不是均衡的，是有一定的权重区分，这就是attention的 RNN多输入与多输出N VS M (encoder-decoder模型)，

>>阅读原文<<