多媒体技术chapt4.3_ml.pptVIP

4.3 统计编码 4.3.1 统计编码原理—信息量和信息熵 4.3.2 哈夫曼（ Huffman ） 编码 4.3.3 算术编码 统计编码方法分类 哈夫曼(Huffman)编码方法利用概率分布特性，根据每个字符出现的概率大小进行一一对应地编码 算术编码利用概率分布特性，对字符序列而不是字符序列中单个字符进行编码 4.3.1 统计编码原理 ——信息量和信息熵 图像的概率分布、信息量和信息熵之间有什么关系？在图像编码压缩理论研究中，为什么要引入信息论中“熵”值的概念，有什么重要意义？这是我们下面需要说明的问题。 一.概念: 1.信息:是用不确定性的量度定义的。 2.信息量:从N个相等可能事件中选出 一个事件所需要的信息度量或含量。 3.熵:如果将信源所有可能事件信息量 进行平均就得到信息的熵(熵就是平 均信息量)。 (1). 信源均含有的平均信息量(熵),就是进行无失真编码的理论极限。 (2). 信源中或多或少的含有自然冗余。 (3). 则信息源X的熵为: 信息熵 当n=8,p(x1)=…=p(x8)=1/8时 当p(x1) ＝1， p(x0)=…=p(x8)＝0时 熵的范围为 变字长编码定理 在变字长编