DARTS+ 论文笔记

DARTS+解决的问题： DARTS[1]的双层优化问题（网络结构与网络参数一起优化）随着训练epoch增加而使得权重耦合和权重之间的互相竞争加剧，使得最终skip-connection的权重越来越高（最终便选择跳跃连接），DARTS+[2]认为这是DARTS训练到最后导致网络性能奔溃（collapse）的原因。 跳跃连接过多可能会损害DARTS的性能。DARTS+则旨在解决这个问题，利用早停（e

>>阅读原文<<