BERT使用心得经验分享

使用Bert有一段时间了，在项目中确实也能带来提升，这里总结下bert的使用心得。 #1，资源的使用 Bert在训练的过程确实很消耗资源。 上面是Bert模型在12G显存的显卡上，每轮的样本数和句子长度。 开始还担心Bert模型部署在客户的机器上能否正常运行。后面测试发现，如果没有太高的并发，其实在预测阶段对显存的消耗并不高，大概1-2G显存即可。 #2，模型速度 使用Bert模型一定要跑在GPU

>>阅读原文<<