BERT使用心得经验分享

使用Bert有一段时间了，在项目中确实也能带来提高，这里总结下bert的使用心得。git #1，资源的使用 Bert在训练的过程确实很消耗资源。 github 上面是Bert模型在12G显存的显卡上，每轮的样本数和句子长度。 开始还担忧Bert模型部署在客户的机器上可否正常运行。后面测试发现，若是没有过高的并发，其实在预测阶段对显存的消耗并不高，大概1-2G显存便可。并发 #2，模型速度 使用Be

>>阅读原文<<