向AI转型的程序员都关注了这个号👇👇👇python
机器学习AI算法工程 公众号：datayxgit
Tensorflow solution of NER task Using BiLSTM-CRF model with Google BERT Fine-tuning程序员
如今可使用下面的命令下载软件包了：github
pip install bert-base==0.0.7 -i https://pypi.python.org/simpleweb
或者使用基于源代码的安装：面试
git clone https://github.com/macanv/BERT-BiLSTM-CRF-NER算法
cd BERT-BiLSTM-CRF-NER/json
python3 setup.py installflask
若是没啥问题，你将会看到这个：windows
笔者在windows10/ Linux/ Mac OSX上都测试过，安装没有问题。
软件包如今支持的功能
命名实体识别的训练
命名实体识别的服务C/S
继承优秀开源软件：bert_as_service(hanxiao)的BERT全部服务
基于bert命名行训练命名实体识别模型:
安装完bert-base后，会生成两个基于命名行的工具，其中bert-base-ner-train支持命名实体识别模型的训练，你只须要指定训练数据的目录，BERT相关参数的目录便可。可使用下面的命令查看帮助
bert-base-ner-train -help
训练命名实体识别的例子以下：
参数说明
其中data_dir是你的数据所在的目录，训练数据，验证数据和测试数据命名格式为：train.txt, dev.txt，test.txt,请按照这个格式命名文件，不然会报错。
训练数据的格式以下:
每行得第一个是字，第二个是它的标签，使用空格’ '分隔，请必定要使用空格。句与句之间使用空行划分。程序会自动读取你的数据。
output_dir：训练模型输出的文件路径，模型的checkpoint以及一些标签映射表都会存储在这里，这个路径在做为服务的时候，能够指定为-ner_model_dir
init_checkpoint: 下载的谷歌BERT模型
bert_config_file ：谷歌BERT模型下面的bert_config.json
vocab_file：谷歌BERT模型下面的vocab.txt
训练完成后，你能够在你指定的output_dir中查看训练结果。
将命名实体识别任务进行服务部署
做为服务的不少代码都来自优秀的开源项目: bert as service of hanxiao
https://github.com/hanxiao/bert-as-service
做为服务的命名是：bert-base-serving-start，一样的，你能够先使用-help查看相关帮助
bert-base-serving-start -help
做为命名实体识别任务的服务，这两个目录是你必须指定的：ner_model_dir, bert_model_dir
而后你就可使用下面的命令启动了：
参数解释
bert_model_dir: 谷歌BERT模型的解压路径,能够在这里下载 https://github.com/google-research/bert
model_dir: 训练好的NER模型或者文本分类模型的路径，对于上面的output_dir
model_pd_dir: 运行模型优化代码后， 通过模型压缩后的存储路径，例如运行上面的命令后改路径下会产生 ner_model.pb 这个二进制文件
mode:NER 或者是BERT这两个模式，类型是字符串，若是是NER,那么就会启动NER的服务，若是是BERT，那么具体参数将和[bert as service] 项目中得同样。
我提供了命名实体识别pb模型下载：
https://pan.baidu.com/s/1m9VcueQ5gF-TJc00sFD88w,
提取码: guqq
文本分类模型：https://pan.baidu.com/s/1oFPsOUh1n5AM2HjDIo2XCw, 提取码: bbu8
文本分类使用的是bert中的demo:run_classxxx.py，在运行的时候使用Pickle序列化了label_list和id2label折两个变量。
将 ner_mode.pb/classification_model.pb 文件放到 model_pd_dir目录下,将命名识别的label_list.pkl和id2map.pkl不一样的模型不一样的文件夹，由于他们同名，可是内容不同，须要区分开来
命名实体识别模型只支持人名，地名，住址机构名的识别，在个人测试数据上有95.6%的F1值（实体级别的得分）
文本分类模型数据来自清华大学的文本分类数据：http://thuctc.thunlp.org/ ， 在测试数据上准确率为98%~99%的准确率
若是使用的下载的模型，你可使用下面的命令启动，替换你本身的路径便可：
你将会看到下面的启动信息(启动log有点多，分两张图截)：
在本地链接服务端进行命名实体识别的测试
你可使用下面的代码进行服务的链接，在本地进行NER测试，客户端代码以下:
运行后，会输出下面的信息：
结果说明：
返回的结果就是序列标注的结果
到此，基于命令行的用法已经讲完，不明白的地方请评论或者在GitHub上提交issue,以为有用。
原文地址
https://blog.csdn.net/macanv/article/details/85684284
阅读过本文的人还看了如下文章：
《深度学习入门：基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch天然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习：基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》，加州伯克利深度学习（2019春）教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目，让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest作特征工程并打分？
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加： datayx
QQ群
333972581
本文分享自微信公众号 - 机器学习AI算法工程（datayx）。
若有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一块儿分享。