条件随机场(CRF)笔记

目录

• Prerequisite
• HMM（隐马尔科夫模型）
• 定义：
• 存在的问题：
• CRF
• 定义：
• 因子分解：
• 表示：
• 化简(向量形式)：
• 求解问题：
• 边缘概率求解
• 参数估计
• 预测算法

Prerequisite

• Markov随机场
• 好天气

HMM（隐马尔科夫模型）

定义：

我们从一个模型，二个假设，三个问题去简单认识下HMM。

其中 $Y=(y_1,y_2,\cdots,y_T)^T$Y=(y1​,y2​,⋯,yT​)T为隐变量（状态）， $X=(x_1,x_2,\cdots,x_T)^T$X=(x1​,x2​,⋯,xT​)T为观测变量（输出）。
一个模型：
是指HMM是由参数集合 $\lambda=(\pi, A,B)$λ=(π,A,B)决定的。其中 $\pi$π是指 $p(y_i)$p(yi​)，即是初始状态的概率向量。 $A$A为状态转移矩阵，即是 $A_{ij}=p(y_{t+1}=q_j\vert y_{t}=q_i)$Aij​=p(yt+1​=qj​∣yt​=qi​)。 $B为发射矩阵$B为发射矩阵，即是 $B_{ij}=p(x_i=v_j\vert y_i=q_i)$Bij​=p(xi​=vj​∣yi​=qi​)。其中 $q,v$q,v分别是 $y_i和x_i$yi​和xi​的取值集合。
二个假设：
1.齐次马尔科夫假设：
即是说，任意状态 $y_i$yi​只会与前一状态 $y_{i-1}$yi−1​有关，说：
$P(y_i\vert x_1,x_2,\cdots,x_{i-1},y_1,y_2,\cdots,y_{i-1})=P(y_i\vert y_{i-1})$P(yi​∣x1​,x2​,⋯,xi−1​,y1​,y2​,⋯,yi−1​)=P(yi​∣yi−1​)
2.观测独立性假设：
即是说，任意观测（输出）只依赖于该时刻的状态，说：
$P(x_i\vert x_1,x_2,\cdots,x_{i-1},y_1,y_2,\cdots,y_{i-1},y_i)=P(x_i\vert y_i)$P(xi​∣x1​,x2​,⋯,xi−1​,y1​,y2​,⋯,yi−1​,yi​)=P(xi​∣yi​)
三个问题：
1.概率计算： $P(X\vert \lambda)$P(X∣λ)
2.学习问题：计算出 $\lambda$λ
3.预测问题： $P(Y\vert X,\lambda)$P(Y∣X,λ)

存在的问题：

如果是在词性标注问题中，那么HMM的假设就过于严格了，因为显然词性应该和整个文本都有关系。因此CRF就弥补了这一点。

CRF

其中 $Y=(y_1,y_2,\cdots,y_T)^T$Y=(y1​,y2​,⋯,yT​)T为隐变量（状态）， $X=(x_1,x_2,\cdots,x_T)^T$X=(x1​,x2​,⋯,xT​)T为观测变量（输入）。

定义：

CRF是指给定随机变量集合X的条件下，Y随机变量集合构成马尔科夫随机场，由其性质即是有：
$P(Y_v\vert X,Y_w,w\ne v)=P(Y_V\vert X,Y_w,w\sim v)$P(Yv​∣X,Yw​,w​=v)=P(YV​∣X,Yw​,w∼v)
$其中v，w指随机变量集合的第v,w个元素，w\sim v表示与v有边相连$其中v，w指随机变量集合的第v,w个元素，w∼v表示与v有边相连
等式的含义是， $Y_v$Yv​只与给定 $X$X和与 $v$v有边相连的节点 $w$w有关。

因子分解：

表示：

Markov随机场的因子分解通式为：
$P(Y)=\frac{1}{Z}\prod_{i=1}^N\phi_{c_i}(Y_{c_i})\\ Z=\sum_Y\prod_{i=1}^N\phi_{c_i}(Y_{c_i})$P(Y)=Z1​i=1∏N​ϕci​​(Yci​​)Z=Y∑​i=1∏N​ϕci​​(Yci​​)
$其中，c_i表示第i个最大团，Y_{c_i}表示第i个最大团的随机变量集合。Z是归一化因子，\\使得\sum_YP(Y)=1$其中，ci​表示第i个最大团，Yci​​表示第i个最大团的随机变量集合。Z是归一化因子，使得∑Y​P(Y)=1。

为了表示方便，引入了start和stop。
条件随机场的因子分解：
这里，我们定义 $\prod_i^N\phi_{c_i}(Y_{c_i})$∏iN​ϕci​​(Yci​​)为：
$\prod_i^N\phi_{c_i}(Y_{c_i})=\exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}$i∏N​ϕci​​(Yci​​)=exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}
$其中，t_k,s_l为特征函数，\lambda_k,\mu_l为权值$其中，tk​,sl​为特征函数，λk​,μl​为权值
$Z=\sum_Y\exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}$Z=Y∑​exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}

化简(向量形式)：

$\begin{aligned}&exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}\\ &=exp\{\sum_{t}\big (\sum_{k}^K\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t}^L\mu_ls_l(y_t,x,i)\big)\}\\ 其中：&\lambda=\begin{bmatrix}\lambda_1\\\lambda_2\\\cdot\\\cdot\\\cdot\\ \lambda_k \end{bmatrix}\vec t=\begin{bmatrix} t_1\\t_2\\\cdot\\\cdot\\\cdot\\ t_k\end{bmatrix}\mu=\begin{bmatrix} \mu_1\\\mu_2\\\cdot\\\cdot\\\cdot\\ \mu_l \end{bmatrix}\vec s=\begin{bmatrix} s_1\\s_2\\\cdot\\\cdot\\\cdot\\ s_l\end{bmatrix}\\ &\sum_t\big(\sum_{k}^K\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{l}^L\mu_ls_l(y_t,x,i)\big)\\ &=\sum_t\lambda^T\vec t+\mu^T\vec s\\ 其中，\vec t,\vec s为y_i,y_{i-1}的函数：\\ &=\lambda^T\sum_t\vec t+\mu^T\sum_t\vec s\\ &令：\theta=\begin{bmatrix}\lambda\\\mu\end{bmatrix} H=\begin{bmatrix} \sum_t\vec t\\ \sum_t\vec s\end{bmatrix}\\ 则：\\ \\P(Y)&=\frac{1}{Z}\exp\{\sum_{t,k}\lambda_kt_k(y_{t-1},y_t,x,i)+\sum_{t,l}\mu_ls_l(y_t,x,i)\}\\ &=\frac{1}{Z}\exp{(\theta^TH)}\\ \end{aligned}$其中：其中，t ,s 为yi​,yi−1​的函数：则：P(Y)​exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}=exp{t∑​(k∑K​λk​tk​(yt−1​,yt​,x,i)+t∑L​μl​sl​(yt​,x,i))}λ=⎣⎢⎢⎢⎢⎢⎢⎡​λ1​λ2​⋅⋅⋅λk​​⎦⎥⎥⎥⎥⎥⎥⎤​t =⎣⎢⎢⎢⎢⎢⎢⎡​t1​t2​⋅⋅⋅tk​​⎦⎥⎥⎥⎥⎥⎥⎤​μ=⎣⎢⎢⎢⎢⎢⎢⎡​μ1​μ2​⋅⋅⋅μl​​⎦⎥⎥⎥⎥⎥⎥⎤​s =⎣⎢⎢⎢⎢⎢⎢⎡​s1​s2​⋅⋅⋅sl​​⎦⎥⎥⎥⎥⎥⎥⎤​t∑​(k∑K​λk​tk​(yt−1​,yt​,x,i)+l∑L​μl​sl​(yt​,x,i))=t∑​λTt +μTs =λTt∑​t +μTt∑​s 令：θ=[λμ​]H=[∑t​t ∑t​s ​]=Z1​exp{t,k∑​λk​tk​(yt−1​,yt​,x,i)+t,l∑​μl​sl​(yt​,x,i)}=Z1​exp(θTH)​
$\qquad\qquad\qquad\qquad\qquad Z=\sum\limits_Y\exp(\theta^TH)$Z=Y∑​exp(θTH)

求解问题：

边缘概率求解

前向后向算法：
其主要思想就是找到关于势函数的递推式。
$\begin{aligned}P(y_t=a)=&\sum_{y_0,y_1\cdots y_{t-1},y_{t+1},\cdots ,y_T}\frac{1}{Z}\prod_i^T\phi_{c_i}(Y_{c_i})\\ &=\sum_{y_0,y_1\cdots y_{t-1},y_{t+1},\cdots ,y_T}\frac{1}{Z}\phi_{c_1}(Y_{c_1})\phi_{c_2}(Y_{c_2})\cdots\phi_{c_N}(Y_{c_N})\\ 其中：\phi_{c_i}(Y_{c_i})=\phi_{c_i}(y_{i-1},y_i)\\ &=\frac{1}{Z}\sum_{y_T}\sum_{y_{T-1}}\phi_{c_T}(y_{T-1},y_T)\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ 令：\\ &\Delta_{left}=\sum_{y_{t-1}}\phi_{c_{t}}(y_{t-1},y_t)\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ &\alpha_t(i)=\sum_{y_{t-1}}\phi_{c_{t}}(y_{t-1},y_t=i)\sum_{y_{t-2}}\phi_{c_{t-1}}(y_{t-2},y_{t-1})\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ &\alpha_{t-1}(j)=\sum_{y_{t-2}}\phi_{c_{t-1}}(y_{t-2},y_{t-1}=j)\cdots\sum_{y_2}\phi_{c_3}(y_2,y_3)\sum_{y_1}\phi_{c_2}(y_1,y_2)\sum_{y_0}\phi_{c_1}(y_0,y_1)\\ 可以发现有：\\ &\alpha_{t}(i)=\sum_j\phi_{c_i}(y_{t-1}=j,y_t=i)\alpha_{t-1}(j)\\ 令:\\ &\Delta_{right}=\sum_{y_{T}}\sum_{y_{T-1}}\phi_{c_T}(y_{T-1},y_T)\cdots\sum_{y_{t+2}}\phi_{c_{t+3}}(y_{t+2},y_{t+3})\sum_{y_{t+1}}\phi_{c_{t+2}}(y_{t+1},y_{t+2})\phi_{c_{t+1}}(y_t=i,y_{t+1})\\ &\beta_t(i)=\sum_{y_{t+1}}\phi_{c_{t+1}}(y_{t}=i,y_{t+1})\sum_{y_{t+2}}\phi_{c_{t+2}}(y_{t+1},y_{t+2})\cdots\sum_{y_{T-2}}\phi_{c_{T-2}}(y_{T-3},y_{T-2})\sum_{y_{T-1}}\phi_{c_{T-1}}(y_{T-2},y_{T-1})\sum_{y_{T}}\phi_{c_T}(y_{T-1},y_T)\\ &\beta_{t+1}(j)=\sum_{y_{t+2}}\phi_{c_{t+2}}(y_{t+1}=j,y_{t+2})\cdots\sum_{y_{T-2}}\phi_{c_{T-2}}(y_{T-3},y_{T-2})\sum_{y_{T-1}}\phi_{c_{T-1}}(y_{T-2},y_{T-1})\sum_{y_{T}}\phi_{c_T}(y_{T-1},y_T)\\ 可以发现有：\\ &\beta_t(i)=\sum_j\phi_{t+1}(y_t=i,y_{t+1}=j)\beta_{t+1}(j)\\ 综上有递推式:\\ &\alpha_{t}(i)=\sum_j\phi_{c_i}(y_{t-1}=j,y_t=i)\alpha_{t-1}(j)\\ &\beta_t(i)=\sum_j\phi_{t+1}(y_t=i,y_{t+1}=j)\beta_{t+1}(j)\\ 那么：\\ &P(y_t=a)=\frac{1}{Z}\alpha_t(a)\beta_t(a)\\ \end{aligned}$P(yt​=a)=其中：ϕci​​(Yci​​)=ϕci​​(yi−1​,yi​)令：可以发现有：令:可以发现有：综上有递推式:那么：​y0​,y1​⋯yt−1​,yt+1​,⋯,yT​∑​Z1​i∏T​ϕci​​(Yci​​)=,yi​)令：可以发现有：令:可以发现有：综上有递推式:那么：​y0​,y1​⋯yt−1​,yt+1​,⋯,yT​∑​Z1​i∏T​ϕci​​(Yci​​)=y0​,y