论文阅读笔记《On First-Order Meta-Learning Algorithms》

核心思想   本文是在MAML的思路上进一步改进，提出一种基于参数优化的小样本学习算法Reptile。首先我们一起回忆一下MAML是如何进行元学习的，在之前的文章中，我们有提到MAML的训练可以分为两个层次：内层优化和外层优化，内层优化就与普通的训练一样，假设网络初始参数为 θ 0 \theta^0 θ0，在数据集 A A A上采用SGD的方式进行训练后得到参数 θ ′ \theta' θ′。如果

>>阅读原文<<