Google天马（PEGASUS）模型

前言：谷歌研究人员提出了PEGASUS模型，用于提取文章摘要。今天就对PEGASUS模型做简单介绍。 论文 源码 预训练目标 研究人员假设，预训练目标越接近下游任务，那么就能更快更好的微调效果。为此，他们设定下游语言任务为“提取文本摘要”，而预训练目标为“生成间隙句子”（Gap Sentences Generation）。 Gap Sentences Generation（GSG） 研究人员提出了

>>阅读原文<<