《attention机制》学习笔记

最近看了很对关于attention机制的文章,发现很多都讲的很抽象,有的很难理解。在这里做一次归纳性的总结,语言尽可能的精简。有讲错的地方欢迎指正。 概念 attention机制的本质是从关注全部到关注整体。 举个例子,比如视线追踪,他可以实时的显示你关注的地方,比如下图,途中白色的圈表示关注的地方(忽略中国boy奇怪的关注点) 原理 下面是attention机制的工作过程,以翻译为例 它使用的是
相关文章
相关标签/搜索