无处不在的Attention

概述 之前的博客中，笔者都曾提到attention机制。这种考虑全局，关注重点的机制在深度学习中很常见，尤其是self-attention将自然语言处理带到一个新高度。attention增加了深度学习的可解释性，并且应用广泛，在自然语言处理，计算机视觉，推荐系统中到处可见。它克服了循环神经网络解决过长序列时的问题，并且也可以像卷积神经网络那样能够并行计算。本文就列举几个比较经典的attention

>>阅读原文<<