多任务学习

多任务学习(multi-task learning) 归纳迁移机制,主要目标是利用隐含在多个相关任务的训练信号中的特定领域信息来提高泛化能力。 深度学习中两种多任务学习模式:隐层参数的硬共享和软共享。 (1)硬共享机制:在所有任务之间共享隐藏层,同时保留几个特定任务的输出层来实现。降低了过拟合的风险。直观来讲,越多任务同时学习,我们的模型就能捕捉到越多任务的同一个表示,从而导致在我们原始任务上的过
相关文章
相关标签/搜索