BERT动态量化DYNAMIC QUANTIZATION ON BERT

  Introduction 在本教程中，我们将紧跟HuggingFace Transformers示例中的BERT模型，对BERT模型应用动态量化。通过这一循序渐进的过程，我们将演示如何将BERT等众所周知的最新模型转换为动态量化模型。 BERT，或者说Transformers的双向嵌入表示法，是一种预训练语言表示法的新方法，可以在许多流行的自然语言处理（NLP）任务（例如问题解答，文本分类，和

>>阅读原文<<