信息论和编码课件(第四章).ppt

第四章 无失真信源编码;第四章 无失真信源编码;第四章 无失真信源编码;引言;引言;引言;引言;4.1 编码器及码的分类;4.1 编码器及码的分类;4.1 编码器及码的分类;4.1 编码器及码的分类;4.1 编码器及码的分类;4.1 编码器及码的分类;4.1 编码器及码的分类;4.2 等长码;4.2 等长码;4.2 等长码;4.2 等长码;4.2 等长码;4.4 等长信源编码定理;4.4 等长信源编码定理;4.4 等长信源编码定理;4.4 等长信源编码定理;4.4 等长信源编码定理;4.4 等长信源编码定理;4.4 等长信源编码定理;4.4 等长信源编码定理;4.5 变长码;4.5 变长码;4.5 变长码;4.5 变长码;4.5 变长码;4.5 变长码;4.5.4 惟一可译变长码的判断法;4.5.4 惟一可译变长码的判断法;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.6 变长信源编码定理;4.7 霍夫曼码和其他编码方法;4.7.1 霍夫曼（Huffman）码－编码步骤;4.7.1 霍夫曼（Huffman）码－编码步骤;;4.7.1 霍夫曼（Huffman）码;4.7.1 霍夫曼（Huffman）码;注意：霍夫曼编码并不惟一。 每次对缩减信源两个概率最小的符号分配“0”和“1”码元是任意的，所以可得到不同的码字。只要在各次缩减信源中保持码元分配的一致性，即能得到可分离码字。 不同的码元分配，得到的具体码字不同，但码长li不变，平均码长 也不变，所以没有本质区别； 缩减信源时，若合并后的新符号概率与其他符号概率相等，从编码方法上来说，这几个符号的次序可任意排列，编出的码都是正确的，但得到的码字不相同。不同的编法得到的码字长度li也不尽相同。;4.7.1 霍夫曼（Huffman）码;4.7.1 霍夫曼（Huffman）码;4.7.1 霍夫曼（Huffman）码;4.7.1 霍夫曼（Huffman）码;4.7.1 霍夫曼（Huffman）码;4.7.1 霍夫曼（Huffman）码;4.7.3 霍夫曼（Huffman）码的最佳性;4.7.3 霍夫曼（Huffman）码的最佳性;4.7.3 霍夫曼（Huffman）码的最佳性;4.7.4 费诺（Fano）码;4.7.4 费诺（Fano）码;4.7.4 费诺（Fano）码;4.7.4 费诺（Fano）码;4.7.5香农－费诺－埃利斯码;4.7.5香农－费诺－埃利斯码;4.7.5香农－费诺－埃利斯码;4.7.5香农－费诺－埃利斯码;4.7.5香农－费诺－埃利斯码;一些结论;4.8几种实用的无失真信源编码方法;4.8.1 MH码;4.8.1 MH码;4.8.1 MH码;4.8.1 MH码;4.8.2算术编码;4.8.2算术编码;4.8.2算术编码;4.8.2算术编码;4.8.3 LZ码;4.8.3 LZ码－编码方法;4.8.3 LZ码;4.8.3 LZ码;4.8.3 LZ码;4.8.3 LZ码;本章小结;费诺码 香农－费诺－埃利斯码 信源符号的累积分布函数 截取长度 平均码长;MH码：是一种修正了的霍夫曼码，是CCITT制定的一维传真编码的国际标准。 算术编码 信源符号序列的累积分布函数： 截取长度： LZ码：是一种通用编码，无需知道信源分布概率的一种通用编码方法。;