对Attention 机制的简单理解

参考文章 浅谈 Attention 机制的理解 attention机制原理及简单实现 深度学习中的注意力机制 Attention 机制是什么？     对于注意力机制，单从名字上理解可以理解为生物观察事物时的注意点都着重在什么地方，比如当我们想看汽车的轮胎时，我们的注意力会向汽车的下半部分看，这就是注意力的焦点，这个机制正是想模仿这种行为，使机器的学习过程有侧重点。注意力的实现过程，简单说可以说是

>>阅读原文<<