基于TensorRT的BERT实时自然语言理解（下）

基于TensorRT的BERT实时自然语言理解（下） BERT Inference with TensorRT 请参阅Python脚本bert_inference.py还有详细的Jupyter notebook BERT_TRT.ipynb在sample文件夹中进行推理过程的逐步描述和演练。在本节中，让我们回顾几个关键参数和概念，以便使用TensorRT进行推理。 BERT（更具体地说是编码器层）

>>阅读原文<<