李梅李亦农《信息论基础教程》讲义教案第五章节无失真信源编码.pptVIP

讨论： 1) 两种方法平均码长相等。 2) 计算两种码的码长方差： 第二种方法编出的码码字长度变化较小，便于实现。 3. Huffman码（续5） 第五章：无失真信源编码 四、变长码的编码方法 3. Huffman码（续6） 离散信源如下: 解：编码过程略，Huffman编码结果如下： 第五章：无失真信源编码 四、变长码的编码方法 3. Huffman码（续7） 平均码长为 信源熵为 编码效率为 第五章：无失真信源编码 四、变长码的编码方法 3. Huffman码（续8） 注意：霍夫曼编码后的码字不是惟一的。 1）每次对缩减信源两个概率最小的符号分配“0”或“1”码元是任意的，所以可得到不同的码字。不同的码元分配，得到的具体码字不同，但码长li不变，平均码长也不变，所以没有本质区别； 2）缩减信源时，若合并后的概率与其他概率相等，这几个概率的次序可任意排列，但得到的码字不相同,对应的码长也不相同,但平均码长也不变。 第五章：无失真信源编码 四、变长码的编码方法 定理5.8 霍夫曼码是紧致码 0 1 0 1 0 1 0 1 1 01 000 001 1 00 01 3. Huffman码（续9） 第五章：无失真信源编码 四、变长码的编码方法 假定缩减后信源为 共有m个元素。 缩减后信源为 共有m+1个元素。 其中第k个元素码长 ,概率为 最短 则缩减前