【NLP实践】使用Pytorch进行文本分类——Transformer

文章目录 前言 网络结构 代码实现 实践经验 相关文章 前言 文本分类不是生成式的任务，所以只使用Transformer的编码部分（Encoder）进行特征提取。若是不熟悉Transformer模型的原理请移步。python 网络结构 代码实现 自注意力模型： class TextSlfAttnNet(nn.Module): ''' 自注意力模型 ''' def __init__

>>阅读原文<<