HMM_几率计算——forwar_algorithm实现

1、前向算法（递推）

　　1）观测几率初值：

　　　　　

　　2）递推：

　　  　　

　　3）终止：

　　　　　　

2、理解前向算法

哈哈，先欠着，没时间码字！

3、代码实现：

 1 def getPro():
 2     iniStatePro=[]   #初始状态几率分布列表
 3     pi=np.array(iniStatePro)
 4     
 5     stateTransPro=[]           #状态转移几率矩阵  N x N 
 6     A=np.array(stateTransPro)  # A[a][b]： 状态a -> 状态b 的几率
 7     
 8     observationPro=[]          #观测几率矩阵     N x M 
 9     B=np.array(observationPro) # B[a][o]：状态a->观测值o的几率  
10     return A,B,pi;
11     
12 def getForwardPro(A,B,pi,T,O):  #O为观测序列
13     alpha=np.zeros(shape=(T,len(A)))     #定义前向几率
14     for i in range(len(B)):                  #初始化前向几率分布
15         alpha[0][i]=pi[i]*B[ i ][ O[0] ] 
16     
17     for t in range(1,T):            # 递推
18         for i in range( len(A) ):   #  t时刻每一个状态
19             pro=0
20             for j in range( len(B) ):        #  前一状态到当前时刻 联合几率
21                 pro=pro+ A[j][i]*alpha[t-1][j];
22             alpha[t][i]=pro*B[i][ O[t] ]          #预测几率
23     OSeqBaseLambdaPro=sum( alpha[T-1] );          # p( O| lambda )
24     return OSeqBaseLambdaPro;

4、验证：统计学习方法 177 编程实现

 1 def getPro():
 2     iniStatePro=[ 0.2 ,0.4, 0.4 ]   #初始状态几率分布列表 3个状态
 3     pi=np.array(iniStatePro)
 4     
 5     stateTransPro=[[ 0.5,0.2,0.3 ],[ 0.3,0.5,0.2 ],[ 0.2, 0.3, 0.5 ]]           #状态转移几率矩阵  N x N 
 6     A=np.array(stateTransPro)  # A[a][b]： 状态a -> 状态b 的几率
 7     
 8     observationPro=[[0.5,0.5],[0.4,0.6],[0.7,0.3]]          #观测几率矩阵     N x M    [红，白]
 9     B=np.array(observationPro) # B[a][o]：状态a->观测值o的几率  
10     
11     return A,B,pi;
12 
13 def getForwardPro(A,B,pi,T,O):  #O为观测序列
14     alpha=np.zeros(shape=(T,len(A)))     #定义前向几率
15     for i in range(len(B)):                  #初始化前向几率分布
16         alpha[0][i]=pi[i]*B[ i ][ O[0] ] 
17     
18     for t in range(1,T):            # 递推
19         for i in range( len(A) ):   #  t时刻每一个状态
20             pro=0
21             for j in range( len(B) ):        #  前一状态到当前时刻 联合几率
22                 pro=pro+ A[j][i]*alpha[t-1][j];
23             alpha[t][i]=pro*B[i][ O[t] ]          #预测几率
24     OSeqBaseLambdaPro=sum( alpha[T-1] );          # p( O| lambda )
25     return OSeqBaseLambdaPro;
26 
27 A,B,pi=getPro();
28 T=3
29 O=[0,1,0]
30 pro=getForwardPro(A,B,pi,T,O)
31 print(pro)

结果：

书上答案：0.13022