如何理解用信息熵来表示最短的平均编码长度

       之前弄明白了信息熵是什么，由于信息熵来源于信息论，要怎么才能跟编码联系起来呢？这个问题当时没有想明白，今天查了一下资料，理解了一下，做笔记整理一下，如有错误欢迎指正。 如果信息熵不明白的请看这里：http://blog.csdn.net/hearthougan/article/details/76192381 首先给出结果： 最短的平均编码长度 = 信源的不确定程度 / 传输的表达能

>>阅读原文<<