动手学bert课程笔记

1.pytorch下面有一个pre_trained里面的东西是官方给定的，在tokenizion中可以更改各个与训练模型的下载的地址，过多的就不要改了。 2.我们在使用bert的时候，写forward当我们不知道数据的形式什么样的时候，我们就点进去源码，看看对于该模型的输入输出的要求 这里的x是什么？传进bert都需要什么？x就是什么 上图就是模型的输入输出的要求。 此处需要写bert的前向传播，

>>阅读原文<<