论文笔记 ——《Unsupervised Domain Adaptation by Backpropagation》

论文笔记 —— 《基于反向传播的无监督域适应》(《Unsupervised Domain Adaptation by Backpropagation》)

思想

本文侧重于将领域适应和深度特征学习结合在一个训练过程中(深度领域适应)。我们的目标是将领域自适应嵌入到学习表示的过程中,使最终的分类决策基于对领域变化既具有区别性又不变性的特征,即在源域和目标域中具有相同或非常相似的分布。
这样,得到的前馈网络可以应用于目标域,而不受两个域之间位移的影响。

核心

  1. 本文提出了深度架构中进行域适应的新方法,该方法促进了“深度”特征出现:
  • 区分源域学习任务【辨别力】【对应分类误差】
  • 域不变性【对应域分类误差】
  1. 同时学习三个classifier。通过最小化分类器误差,最大化判别器误差,使得学习到的特征表达具有跨领域不变性。

原理

  • 特征提取器:一方面最小化分类误差,使获得又判别力的特征;另一方面最大化域分类误差,使特征具有不变性(本文使用了2-3个卷积层来实现)
  • 域分类器:最大化域分类误差(本文用了三个全连接层)
  • 标签分类器:最小化分类误差