深度学习——优化方法

【优化方法】 （1）激活函数，有逻辑函数、sigmoid函数、softmax函数、Rectified Linear等。 （2）反向传播更新w和b的函数有：实际值与预测值之差的二次函数、cross-entropy函数、log-likelyhood函数等。 （3）overfitting指的是在training set中结果很好，但在test set中结果不好，解决方法有扩大training set（比

>>阅读原文<<