详解隐马尔科夫模型

隐马尔科夫模型

摘要

本文重点讲解隐马尔科夫(HMM)模型的模型原理，以及与模型相关的三个最重要问题：求解、解码和模型学习。

隐马尔科夫模型的简单介绍

为了方便，下文统一用HMM代替隐马尔科夫模型。HMM其实是一种图几率模型。之因此叫作隐马尔科夫模型，是由于模型与普通的马尔科夫模型不一样的是，HMM含有隐变量空间，而且遵循马尔科夫假设。这样说太抽象，咱们看下图：

其中\(Y_i\in Q={q_1,q_2,...,q_N}\)，\(X_i \in V={v_1,v_2,...,v_M}\)。而且记观测序列\(X = X_1,X_2,...,X_T\)

隐状态序列\(Y = Y_1,Y_2,...,Y_T\)。咱们首先介绍HMM三个重要参数，而后下面再解释这些参数的具体物理含义。

\[状态转移矩阵： A = [a_{ij}]N\times N \\ a_{ij} =P(Y_t=q_j|Y_{t-1}=q_i),i=1,2,...,N\\ 观测几率矩阵: B = [b_{jk}]N\times M \\ b_{jk} = P(X_t=v_k|Y_t=q_j), j = 1,2,...,N;k=1,2,...,M\\ 初始分布： \pi=[\pi_1,\pi_2,...,\pi_N]\\ \pi_i = P(Y_0=q_i),i = 1,2,...,N \]

也就是说，状态转移几率决定了状态间的单步转移状况，而观测发射矩阵决定了从隐状态到观测状态的转移状况。而初始分布决定了模型的状态初始分布。为了叙述方便，咱们记上面的参数为\(\lambda=(A,B,\pi)\)

HMM有以下两个假设，齐次性质假设和观测独立性假设，分别叙述以下：

• 齐次马尔科夫假设：

\[P(Y_t|X_1,...,X_{t-1},Y_1,...,Y_{t-1})=P(Y_t|Y_{t-1}) \]

也就是任什么时候刻的隐藏状态只与上一时刻的隐藏状态有关，与其余的隐藏状态和观测状态无关。

• 观测独立性假设：

\[P(X_t|X_1,...,X_T,Y_1,...,Y_T)=P(X_t|Y_t) \]

即任意时刻的观测只由其同时刻的隐状态所决定，与其余隐藏状态和观测状态无关。

为了更形象的理解这个模型，下面举一个我以为比较贴切的例子。

假设有两我的分别记为P1和P2，他们中间隔了一堵墙。其中P1被关在了墙里面，P2在外面。这两我的仅仅能经过一个窗子交流。两我的分别有如下的特色：P1记性特别差，只能记住上一次说过的单词。而且每次说话时也只受上一次说话内容所影响。而P2能够当作一个特殊的转录机，他每次说的单词都只受P1当前说的单词所影响。而且P2有一个很长的纸带，会把每次说的单词记录下来。而且假设P1和P2的词汇表都是有限的。

• 若是给定P2的文本片断，咱们可否给出该文本片断的几率(已知模型参数\(\lambda\))

• 给定P2的文本片断，假设咱们已经知道了P1的词汇表，咱们可否给出P1最可能说了哪段话（已知模型参数\(\lambda\))

• 给定大量的(P2,P1)文本对片断，可否推测出模型参数\(\lambda\),或者仅仅给出大量的P2文本片断，可否学出模型参数\(\lambda\)

实际上面的三个问题就对应着预测，解码和模型学习的三个问题。而且若是P1的词汇表是分词标记标签，P2的词汇表是汉语，那么所对应的就是分词问题。把P1的词汇表是命名实体标签，P2的词汇表是汉语，那么所对应的问题实际上就是命名实体识别（NER）问题。

若是咱们不关心模型的具体使用，只是关心HMM是一个什么样的模型，那么到这里彻底能够将模型说明白。可是咱们要更细致的了解HMM的话（从代码层面上）那么仍是逐一解决上述三个重要的问题。

预测问题

所谓的预测问题，其实是求下面的序列几率：

\[p = P(X_1,X_2,...,X_T;\lambda) \]

根据全几率公式咱们有：

\[\begin{align*} p&=P(X_1,X_2,...,X_T;\lambda)\\ &=\sum_{Y}P(X_1,X_2,...,X_t,Y_1,Y_2,...,Y_t;\lambda) \end{align*} \]

其中\(Y\)是隐状态空间的内全部组合，显然当隐状态空间特别大时，若是经过简单的枚举加和方式，面临着指数爆炸这一难题（简单的分析可知，上述的求和复杂度是\(O(N^T)\)）。

经过上述分析可知，高效的求解序列几率的关键在于求解联合几率。根据链式法则及HMM的假设咱们能够获得以下公式：

\[\begin{align*} P(X_{<=T},Y_{<=T};\lambda)& = P(X_1,X_2,...,X_T,Y_1,Y_2,...,Y_T;\lambda) \\ &=P(X_T,Y_T|X_1,...,X_{T-1},Y_1,...,Y_{T-1}) \cdot P(X_1,...,X_{T-1},Y_1,...,Y_{T-1})\\ &=P(X_T|Y_T) \cdot P(Y_T|Y_{T-1})\cdot P(X_{<T},Y_{<T}) \end{align*} \]

其中前两步分别是观测独立假设和齐次转移假设，最后一步是咱们的递归定义。实际上上面的公式还能进一步拆分（根据递归定义拆解下去便可），这里再也不展开说明。

根据链式法则，咱们能够有如下结论，\(T\)时刻的几率计算仅仅依赖于\(T-1\)时刻，又涉及到指数状态空间枚举，那么实际上必定会存在着大量的重复计算，这样咱们就会想用动态规划来进行优化。（这样的思考确实有些跳跃，实际上我在刚刚接触HMM时，也对于其中反复运用的动态规划感到跳跃，可是等我刷过一些算法题目以后，再回头看HMM，其中运用的动态规划便瓜熟蒂落了。

首先咱们定义\(\alpha_{t,j}\) 为\(t\)时刻对应的\(Y_{t}=q_j且观测序列为X={X_1,...,X_t}\)的全（路径）几率。那么显然根据上面的定义，咱们有：

\[P(X_{<=T};\lambda) = \sum_{j=1}^N\alpha _{T,j} \]

而且，特别的，对于\(t=1\)时，咱们引入上面的初始分布：

\[\alpha_{1,j} = \pi_j\cdot b_{j,X_1} \]

总结上面的算法，伪代码叙述以下：

输入：观测序列X,模型参数 lambda = (A,B,pi)
输出：序列X所对应的几率p

\[\begin{align*} &初始化： \alpha_{1,j} = \pi_j\cdot b_{j,X_1}\\ &动态递推：\alpha_{t,j} = \sum_{i=1}^N\alpha_{t-1,i}\cdot a_{i,j}\cdot b_{j,X_t}\\ &结束求和： p = \sum_{j=1}^N \alpha_{T,j} \end{align*} \]

对应的python代码(片断）以下：

def forward_alpha(self,label_seq):
    T = len(label_seq)
    label_seq_idx = self.label_to_idx(label_seq)
    init_label_idx = label_seq_idx
    pre_alpha = [self.pi[j] * self.b[j][init_label_idx] for j in range(self.N)]
    for t in range(1,T):
        tmp_label_idx = label_seq_idx[t]
        tmp_alpha = [self.sum_vector([pre_alpha[i]*self.a[i][j] * b[j][tmp_label_idx]])
                     for j in range(self.N)]
        pre_alpha = tmp_alpha
     return self.sum_vecotr(tmp_alpha)

解码问题

参考文献：

《统计学习方法》第二版，李航，隐马尔科夫模型

《神经网络与深度学习》，邱锡鹏，几率图模型