NLP实践九:HAN原理与文本分类实践

文章目录 HAN原理 代码实践 HAN原理 参考多层注意力模型 用于文本分类的注意力模型 整个网络结构包括五个部分: 1)词序列编码器 2)基于词级的注意力层 3)句子编码器 4)基于句子级的注意力层 5)分类 整个网络结构由双向GRU网络和注意力机制组合而成,具体的网络结构公式如下: 1)词序列编码器 给定一个句子中的单词 w i t w_{it} wit​,其中 i 表示第 i 个句子,t 表
相关文章
相关标签/搜索