台大DL-week2笔记

用心努力 反向传播 语义表达 序列建模 一、反向传播 1、前情提要 神经网络的模型： y=f(x)=σ(WL...σ(W2σ(W1x+b))) 不同的W,b对应着不同的模型，重新定义模型为 f(x,θ) θ={W1,b1,W2,b2,...WL,bL} Wl=⎧⎩⎨⎪⎪wl11wl21...wl12wl22............⎫⎭⎬⎪⎪ bl=⎧⎩⎨⎪⎪bl1bl2...⎫⎭⎬⎪⎪ 最好的模型

>>阅读原文<<