小白bert参数计算

针对上图分别从每个部分进行计算。 BERT-Base, Uncased 12层，768个隐单元，12个Attention head，110M参数 BERT-Large, Uncased 24层，1024个隐单元，16个head，340M参数 BERT-Base, Cased 12层，768个隐单元，12个Attention head，110M参数 BERT-Large, Uncased 24层，1

>>阅读原文<<