Course 2-Improving Deep Neural Networks--Week 2

优化算法 在大数据上训练模型会很慢,若使用优化算法,就会大大提高训练效率。本周的内容就是介绍常见的优化算法,如mini-batch、momentum、RMSprop、Adam,最后再介绍下局部最优与鞍点的概念。 2.1 mini-batch gradient descent batch VS mini-batch gradient descent 向量化操作使得我们可以同时处理m个样本,但是当m很
相关文章
相关标签/搜索