信息论2015-5分析.ppt

4.3.3 Huffman算法 ⑵q元Huffman算法 【例4-7】设单符号离散无记忆信源的信源空间 对其进行 q=3，A: {0, 1, 2}的Huffman编码。 解：如果按上面介绍的通常的二元Huffman编码方法进行编码，其过程如图 可知：平均码长为 =2 码元/信源符号。 * S: s1 s2 s3 s4 s5 s6 p(S): 0.24 0.20 0.18 0.16 0.14 0.08 s1 s2 s3 s4 s5 s6 0.24 0.20 0.18 0.16 0.14 0.08 1 2 0 (0.38) 0 2 1 (0.62) 1 2 (1.0) W1=10 W6=11 W7=12 W5=20 W4=21 W8=22 4.3.3 Huffman算法 通过直观的观察，这种编码方法似乎不是最佳的，下面我们看看一种改进方法。 还是这一个信源，我们在6个信源符号的后面再加一个概率为0的符号，记为s7’，同时有p(s7’)=0，这个符号称为虚假符号，如果将此信源按7个符号进行三元编码，其编码过程如图 计算可知这种编码方法的平均码长为 =1.76 码元/信源符号。可以看到通过这种增加虚假符号的方法可以提高q元Huffman编码的编码效率。 * s1 s2 s3 s4 s5 s6 s7’ 0.24 0.20 0.18 0.16 0.14