深度学习总结(九)——正则化

1. 正则化简介 以逻辑斯蒂回归为例，介绍正则化。 原来的成本函数(cost function)： minw,bJ(w,b)=minw,b1m∑i=1mL(y^(i),y(i)) 其中： w∈Rnx,b∈R 加入正则化项得： J(w,b)=1m∑i=1mL(y^(i),y(i))+λ2m||w||22 其中： ||w||22=∑j=1nxw2j=wTw 上式中的正则化是L2正则化。 正则化是一种非

>>阅读原文<<