注意力机制学习

如上图所示,人在看一些事物时,往往注意到的地方是不一样的。其中红色区域表明视觉系统更关注的目标,很明显对于图1所示的场景,人们会把注意力更多投入到人的脸部,文本的标题以及文章首句等位置。   1.Encoder-Decoder框架   在语言处理的场景下,上图可以理解为,在给定一些文本的情况下,生成其他的文本的通用架构。 如果Source是中文句子,Target是英文句子,那么这就是解决机器翻译问
相关文章
相关标签/搜索