广告行业中那些趣事系列6：BERT线上化ALBERT优化原理及项目实践(附github)

微信公众号：数据拾光者。愿结交更多的小伙伴，一同走人生路。 摘要：BERT因为效果好和适用范围广两大优点，所以在NLP领域具有里程碑意义。实际项目中主要使用BERT来做文本分类任务，其实就是给文本打标签。因为原生态BERT预训练模型动辄几百兆甚至上千兆的大小，模型训练速度非常慢，对于BERT模型线上化非常不友好。本篇研究目前比较火的BERT最新派生产品ALBERT来完成BERT线上化服务。ALBE

>>阅读原文<<