小版BERT也能出奇迹：最火的预训练语言库探索小巧之路
转载：https://tech.ifeng.com/c/7pqoBttuWS0 选自Medium 作者：Victor Sanh 机器之心编译 参与：魔王 过去一段时间，大模型层出不穷。在大家纷纷感叹「大力出奇迹」的时候，作为调用预训练语言模型最流行的库，HuggingFace 尝试用更少的参数量、更少的训练资源实现同等的性能，于是知识蒸馏版 BERT——DistilBERT 应运而生！ 近日，
相关文章
- 1. 小版BERT也能出奇迹：最火的预训练语言库探索小巧之路
- 2. 预训练语言模型 | (3) Bert
- 3. NLP中的预训练语言模型（四）—— 小型化bert（DistillBert, ALBERT, TINYBERT）
- 4. 完胜BERT！NLP预训练利器：小模型也有高精度，单个GPU就能训练
- 5. NLP中的预训练语言模型（一）—— ERNIE们和BERT-wwm
- 6. [预训练语言模型专题] RoBERTa: 捍卫BERT的尊严
- 7. 预训练语言模型整理（ELMo/GPT/BERT...）
- 8. ICLR 2020| VL-BERT：预训练视觉-语言模型
- 9. 小评最近很火的BERT模型
- 10. 语言模型预训练方法（ELMo、GPT和BERT）——天然语言处理（NLP）
- 更多相关文章...
- • 探索Redis事务回滚 - Redis教程
- • MySQL FLOAT、DOUBLE、DECIMAL（小数类型） - MySQL教程
- • 互联网组织的未来：剖析GitHub员工的任性之源
- • 适用于PHP初学者的学习线路和建议
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
最新文章
- 1. Duang!超快Wi-Fi来袭
- 2. 机器学习-补充03 神经网络之**函数(Activation Function)
- 3. git上开源maven项目部署 多module maven项目（多module maven+redis+tomcat+mysql）后台部署流程学习记录
- 4. ecliple-tomcat部署maven项目方式之一
- 5. eclipse新导入的项目经常可以看到“XX cannot be resolved to a type”的报错信息
- 6. Spark RDD的依赖于DAG的工作原理
- 7. VMware安装CentOS-8教程详解
- 8. YDOOK：Java 项目 Spring 项目导入基本四大 jar 包 导入依赖，怎样在 IDEA 的项目结构中导入 jar 包 导入依赖
- 9. 简单方法使得putty（windows10上）可以免密登录树莓派
- 10. idea怎么用本地maven
欢迎关注本站公众号,获取更多信息
相关文章
- 1. 小版BERT也能出奇迹：最火的预训练语言库探索小巧之路
- 2. 预训练语言模型 | (3) Bert
- 3. NLP中的预训练语言模型（四）—— 小型化bert（DistillBert, ALBERT, TINYBERT）
- 4. 完胜BERT！NLP预训练利器：小模型也有高精度，单个GPU就能训练
- 5. NLP中的预训练语言模型（一）—— ERNIE们和BERT-wwm
- 6. [预训练语言模型专题] RoBERTa: 捍卫BERT的尊严
- 7. 预训练语言模型整理（ELMo/GPT/BERT...）
- 8. ICLR 2020| VL-BERT：预训练视觉-语言模型
- 9. 小评最近很火的BERT模型
- 10. 语言模型预训练方法（ELMo、GPT和BERT）——天然语言处理（NLP）