谷歌推出新模型「pQRNN」，少量参数下进行文本分类，性能堪比BERT

近日，谷歌推出了新模型「pQRNN」，它是由去年推出的「PRADO」进一步使用小模型改进而得，达到了SOTA结果。pQRNN的新颖之处在于，它可以结合一个简单的映射和一个quasi-RNN编码器来进行快速并行处理。同时，谷歌证明了该模型能在参数较少的情况下进行文本分类任务，并达到BERT级别的性能表现。 深层神经网络的快速发展在过去的十年中彻底改变了自然语言处理(NLP)领域 。同时，诸如保护用户

>>阅读原文<<