【sklearn实例】3--线性回归

线性回归思想 通过学习,找到属性的线性组合来预测输出标记。 损失函数 一般采用均方误差作为损失函数: 优化方法 梯度下降法(不满秩情况使用,收敛较慢,有可能求得局部最小值) 正规方程求解-最小二乘法(需要X是满秩的,即样本数大于特征数) 形式 一般线性回归 岭回归(Ridge):防止过拟合,损失函数加入正则化项,L2范数 lasso:加入正则化项,L1范数 ElasticNet:L1和L2范数混合
相关文章
相关标签/搜索