动态规划与马尔科夫

动态规划是运筹学的一个分支，是求解决策过程(decision process)最优化的数学方法。多阶段决策过程(multistep decision process)的优化问题时，提出了著名的最优化原理(principle of optimality)。

动态规划必须知足：

最优化原理（最优子结构性质）；无后效性；

贝叶斯（Bayes）统计理论

P（M|D）=P（D|M）P(M)/P(D)；

P（D|M）称为似然比/likehood；P(M)称为先验几率（prior）；P(D)为marginal边际

M：模型，D：数据或证据

一个信号源分别以0.六、0.4的几率发出信号A、B，接收端以图中所示几率接受到信号。如今接受到信号B，要判断系统发出的信号是什么？

熵是对不肯定性的一种度量，

均匀分布具备最大的不肯定性；熵的变化量能够刻画信息量；

相对熵