Longformer：超越RoBERTa，为长文档而生的预训练模型
星标/置顶小屋，带你解锁node 最萌最前沿的NLP、搜索与推荐技术git 文 | ChrisCao, 小轶github 前言 今天要与你们分享的是AllenAI今年发表的最新工做，Longformer——一种可高效处理长文本的升级版Transformer。做者团队提供了开源代码，你们可快速复现，直接用于本身的任务。算法 传统Tranformer-based模型在处理长文本时有着自然的劣势。由于传
相关文章
- 1. Longformer：超越RoBERTa，为长文档而生的预训练模型
- 2. 预训练模型（5）---- SpanBERT&RoBERTa&ERNIE2
- 3. [预训练语言模型专题] RoBERTa: 捍卫BERT的尊严
- 4. ELECTRA：超越BERT，2019年最佳NLP预训练模型
- 5. ELECTRA: 超越BERT, 19年最佳NLP预训练模型
- 6. XLM-RoBERTa: 一种多语言预训练模型
- 7. NLP预训练模型
- 8. ELECTRA: NLP预训练模型
- 9. BERT 中文预训练模型使用
- 10. 超详细中文预训练模型ERNIE使用指南
- 更多相关文章...
- • WSDL 文档 - WSDL 教程
- • XSL-FO 文档 - XSL-FO 教程
- • 委托模式
- • Kotlin学习（二）基本类型
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
欢迎关注本站公众号,获取更多信息
