Progressive Neural Architecture Search(论文阅读)

一、代理模型介绍 代理模型顾名思义就是用来代替某个模型的模型。由于大型卷积网络模型的计算成本非常高,在神经架构搜索任务中如果每一个备选模型个体都要从头开始训练的话,计算代价是会非常高的。以NASNet为例,它采用了500张V100显卡经过5天的时间才得到其论文中提出的效果,这个计算成本在实际应用中是绝对不可能接受的(价值数千万的硬件设备,5天内只能完成一个任务)。代理模型的使用可以在一定程度上缓和
相关文章
相关标签/搜索