1.2 神经网络入门-神经元多输出

1.2 神经元多输出

• 神经元-多输出

  处理二分类的问题，用一个神经元能够解决，处理多分类的问题，加神经元就能够了。这时候以前的w向量变成了矩阵

  

• 多输出的例子

  

• 二分类逻辑斯蒂回归模型的另外一种角度-归一化

• 多分类逻辑斯蒂回归模型的推导

  

• 多分类逻辑斯蒂回归模型的例子

• 目标函数（一般也被成为损失函数）

  • 衡量对数据的拟合程度

  • 举个例子

    • (x1,y1) = ([10,3,9,20,....,4],1) 二分类问题，y1 可能等于0或者1，模型算出的几率大于0.5，就认为是1这个类，小于0.5，就认为是0这个类
    • y1^、 = Model(x1) = 0.8 假设模型算出来的几率值为0.8
    • Loss = y1 - y1^、 = 0.2 调整神经网络，就是调整model中的参数，使得y1^、 更大，Loss更小

  • 再多举个多分类的问题

    • (x1,y1) = ([10,3,9,0....4], 3)
    • y1^、 = Model(x1) = [0.1,0.2,0.25,04,0.05]
    • 3->[0,0,0,1,0] 数值到向量的变换叫作one-hot编码
    • Loss = abs(y1- y1^、) = [0,0,0,1,0] - y1^、 = [0.1,0.2,0.25,0.6,0.05] = 1.2 整个向量相减获得目标值

  • 平方差损失

    

    先求出每一个数据的目标值（实数就直接相减再平方，向量就向量减法再计算向量平方值），而后求和全部目标值，再作平均

  • 交叉熵损失函数

    

    这是个熵函数，就是用来衡量两个分布直接的差距的，因此他更适合去作多分类的损失函数

  • 调整参数使模型在训练集上的损失函数最小, 这就觉得着model预测出来的结果和真实值的差距最小