BERT的get_sequence_output与get_pooled_output方法

BERT的get_sequence_output方法获取token向量是如何得到的？ 通过如下方法得到，实际上获取的是encoder端最后一层编码层的特征向量。 BERT的get_pooled_output方法获取的句子向量是如何得到的？ 通过如下方法得到，实际上获取的是[CLS]这个token对应的向量，把它作为整个句子的特征向量。 BERT代码中如何区分是预训练还是微调的，预训练代码是否开源了

>>阅读原文<<