An Overview of Multi-Task Learning in Deep Neural Networks

在人类学习中,不同学科之间的往往能起到相互促进的作用。那么,对于机器学习是否也是这样的,我们不仅仅让它专注于学习一个任务,而是让它学习多个相关的任务,是否可以让机器在各个任务之间融会贯通,从而提高在主任务上面的结果呢? 1.multi-task的两种形式 前面的层是权重共享的,后面的层权重是不同的。 所有的层权重都是不同的,但是对于前面的层,我们会约束他们的权重尽可能地接近,通过会加上L2 dis
相关文章
相关标签/搜索