CS231n 学习笔记（五）

时间：2019/3/27 内容：优化 课时8：优化 注意： x可能是整个向量 梯度是偏导数组成的向量，它和x的形状一样，它指向函数增长最快的方向；负梯度指向函数下降最快的方向 任意方向的斜率等于这一点上梯度和该点单位方向向量的点积 在计算机上计算梯度的一个简单方法是有限差分法 迭代计算所有W维度，一直重复下去直到计算完dW。这种方法是数值梯度法，过程非常慢。实际上，我们会使用另一种分析梯度法，提前

>>阅读原文<<