几个与BERT相关的预训练模型分享-ERNIE，XLM，LASER，MASS，UNILM

时间 2021-07-11

标签 NLP Deeplearning Transformer 自然语言处理人工智能机器学习繁體版

原文原文链接

基于Transformer的预训练模型汇总 1. ERNIE: Enhanced Language Representation with Informative Entities（THU）特点：学习到了语料库之间得到语义联系，融合知识图谱到BERT中，本文解决了两个问题，structured knowledge encoding 和 Heterogeneous Information Fusi

>>阅读原文<<

1. UNILM 统一预训练模型 v1.0
2. NLP中的预训练语言模型（一）—— ERNIE们和BERT-wwm
3. 跨域预训练语言模型(XLM)
4. BERT与其他预训练模型
5. NLP预训练模型3 -- 预训练任务优化（ERNIE、SpanBERT）
6. 常见多语言模型详解 (M-Bert, LASER, MultiFiT, XLM)
7. 预训练语言模型 | (3) Bert
8. BERT 中文预训练模型使用
9. 微软统一预训练语言模型UniLM 2.0解读
10. XLM-RoBERTa: 一种多语言预训练模型
更多相关文章...
• XML 相关技术 - XML 教程
• ASP.NET MVC - 模型 - ASP.NET 教程
• NewSQL-TiDB相关
• 委托模式

最新文章

1. 升级Gradle后报错Gradle‘s dependency cache may be corrupt (this sometimes occurs
2. Smarter, Not Harder
3. mac-2019-react-native 本地环境搭建(xcode-11.1和android studio3.5.2中Genymotion2.12.1 和VirtualBox-5.2.34 )
4. 查看文件中关键字前后几行的内容
5. XXE萌新进阶全攻略
6. Installation failed due to: ‘Connection refused: connect‘安卓studio端口占用
7. zabbix5.0通过agent监控winserve12
8. IT行业UI前景、潜力如何？
9. Mac Swig 3.0.12 安装
10. Windows上FreeRDP-WebConnect是一个开源HTML5代理，它提供对使用RDP的任何Windows服务器和工作站的Web访问

本站公众号

欢迎关注本站公众号,获取更多信息

1. UNILM 统一预训练模型 v1.0
2. NLP中的预训练语言模型（一）—— ERNIE们和BERT-wwm
3. 跨域预训练语言模型(XLM)
4. BERT与其他预训练模型
5. NLP预训练模型3 -- 预训练任务优化（ERNIE、SpanBERT）
6. 常见多语言模型详解 (M-Bert, LASER, MultiFiT, XLM)
7. 预训练语言模型 | (3) Bert
8. BERT 中文预训练模型使用
9. 微软统一预训练语言模型UniLM 2.0解读
10. XLM-RoBERTa: 一种多语言预训练模型

>>更多相关文章<<