深度学习中线性模型的局限性

在线性模型中，模型的输出为输入的加权和。假设一个模型的输出y和输入x满足以下关系，那么这个模型就是一个线性模型。 其中w，b为模型的参数。 一、线性模型的最大特点是任意线性模型的组合仍然还是线性模型。 例子： 其中W'是新的参数，这个前向传播的算法完全符合线性模型的定义。从这个例子中可以看出，虽然这个神经网络有两层（不算输入层），但是它和单层神经网络没有区别。以此类推，只通过线性变换，任意层的全连

>>阅读原文<<