从Attention到BERT

目录 引言 Attention Mechanism 引言 众所周知,注意力机制(Attention Mechanism)是今年来被广泛应用于各个机器学习领域,特别是NLP和CV的一个重要的组件。目前风头正劲的Transformer和Google的BERT模型都是源自于attention的思想。本文将尽力从整体理解的角度去对attention机制、Transformer模型、BERT模型做一次简单的
相关文章
相关标签/搜索