浅谈NLP中Attention机制的理解

1.什么是注意力机制? 注意力机制模仿了生物观察行为的内部过程,即一种将内部经验和外部感觉对齐从而增加部分区域的观察精细度的机制。例如人的视觉在处理一张图片时,会通过快速扫描全局图像,获得需要重点关注的目标区域,也就是注意力焦点。然后对这一区域投入更多的注意力资源,以获得更多所需要关注的目标的细节信息,并抑制其它无用信息。 图片来源:深度学习中的注意力机制,其中红色区域表示更关注的区域。 2|0E
相关文章
相关标签/搜索