神经网络架构搜索——可微分搜索(Latency-DARTS)

神经网络架构搜索——可微分搜索(Latency-DARTS) 摘要 动机 方法 延迟预测模块(LPM) 数据收集 训练细节 延时预测结果 可微分时延损失 定义时延损失 嵌入到搜索的Loss中 实验 CIFAR ImageNet 总结 本文为华为诺亚的NAS工作,针对DARTS搜索出网络结构往往对硬件不友好的问题,本文在优化中加入可微分的时延损失项,使搜索过程可以在精度和时延之间进行平衡系数的权衡。
相关文章
相关标签/搜索