Towards Accurate Binary Convolutional Neural Network

本文提出了一种使用多个二进制网络的线性组合来拟合复杂网络的方法,它是首个在ImageNet上效果接近全精度网络的二进制网络。 其优化目标如下: w是全精度权重,B为量化权重,α为每个二进制网络的系数: 为了能使反向传播正常进行,设定下式: ui的取值区间是[-std(W),std(W)]。 前向和反向传播的过程如下: 整体框架如下: 左边每个框框是一个近似的全精度网络,其中每一个都是一个二进制网络
相关文章
相关标签/搜索