深度神经网络结构以及Pre-Training的理解

Logistic回归、传统多层神经网络 1.1 线性回归、线性神经网络、Logistic/Softmax回归 线性回归是用于数据拟合的常规手段，其任务是优化目标函数： 线性回归的求解法通常为两种： ①解优化多元一次方程（矩阵）的传统方法，在数值分析里通常被称作”最小二乘法"，公式 ②迭代法：有一阶导数（梯度下降）优化法、二阶导数（牛顿法）。 方程解法局限性较大，通常只用来线性数据拟合。而迭代法直接

>>阅读原文<<