【论文笔记】Multi-task Learning with Sample Re-weighting for Machine Reading Comprehension(2019,NAACL)

这篇论文主要提出了一种多任务学习(Muti-Task Learning, MTL)运用于MRC技术时,以“给辅助数据集添加权重”的方式来衡量数据可能的贡献,以此也防止非领域数据对模型的污染,其中自动添加权重的思路非常巧妙,值得学习。 1.介绍 作者认为相对于模型庞大的参数量,数据集还是太小了。 实际上已经不算小了,但对于一些领域特定的数据集,确实还是没有足够的数据量。 因此,作者把目光头像了MTL
相关文章
相关标签/搜索