BERT家族：spanBERT

SpanBERT 论文：《SpanBERT: Improving Pre-training by Representing and Predicting Spans》 论文地址：https://arxiv.org/pdf/1907.10529 作者/机构：华盛顿大学+普林斯顿大学 年份：2019.8 SpanBERT对Bert的改进主要体现在对mask方式的改进，丢弃NSP任务和增加SBO（Spa

>>阅读原文<<