赛尔实验室新作：如何使用选择机制提升自注意力网络能力

给大家介绍一篇今天刚看到的“小巧精致”的paper，论文的核心思想就是在自注意力阶段加入了选择机制，使得自注意力更加集中，可以作为通用手段用于各种自注意力的模型中提升效果，值得一看。 paper: https://www.aclweb.org/anthology/2020.acl-main.269.pdf code: https://github.com/xwgeng/SSAN (2020-08-

>>阅读原文<<