Self-Supervised Learning for Contextualized Extractive Summarization

ACL 2019 Self-Supervised Learning for Contextualized Extractive Summarization github 背景 本文所表述的内容十分的清晰明了，同样也很简单，即如何使用不同的预训练策略来提升抽取式摘要任务的效果。作者指出：现有的模型在抽取句子使用交叉熵训练模型时，往往只考虑了句子级别的信息，并没有很好的捕获全局或说是文档级的信息，因此

>>阅读原文<<