Caffe Solver理解篇（1） 主体和SGD

参考译本，第四章：Solver网络 第一节函数 做用：学习  协调Net的前向推断计算和反向梯度计算，更新参数，从而减少loss。测试 （Net具备计算的做用，Solver定义了用什么方法优化整个网络。）优化 3点应用：spa (1)记录优化过程；（快照）3d (2)建立训练网络；（学习）调试 (3)建立测试网络；（评估）orm 6个支持：blog SGD, AdaDelta, AdaGrad,

>>阅读原文<<