浅谈 Knowledge-Injected BERTs

作者丨张成蹊 学校丨北京大学硕士生 / 字节跳动AI-Lab实习生 研究方向丨自然语言处理、命名实体识别 序 在当下的 NLP 领域，BERT 是一个绕不过的话题。  自从 2018 年底横空出世以来，它以势不可挡的态势横扫了整个 GLUE 榜单，将基准推进到 80% 的水平线，在 SQuAD1.1 中全部指标超越人类水平。在使用其预训练的参数后，几乎所有的下游任务都获得了相当的增益（当然，大量参

>>阅读原文<<