非局部神经网络，打造未来神经网络基本组件

将非局部计算作为获取长时记忆的通用模块，提高神经网络性能在深度神经网络中，获取长时记忆（long-range dependency）至关重要。对于序列数据（例如语音、语言），递归运算（recurrent operation）是长时记忆建模的主要解决方案。对于图像数据，长时记忆建模则依靠大型感受野，后者是多层卷积运算堆叠的结果。  卷积和递归运算处理的都是一个局部邻域，可以是空间局部邻域，也可以是时

>>阅读原文<<