第三章_信源编码-离散信源无失真编码.pptVIP

第三章 信源编码-离散信源无失真编码;通信系统的两个基本问题;通信系统模型;主题;信源编码-离散信源无失真编码;信源编码;信源编码的目的和分类;信源码的分类;第1节 信源及其分类;信源;信源的分类;离散无记忆平稳信源-简单信源;简单信源;第2节离散无记忆信源的等长编码;等长编码;编码速率;无失真等长编码;等长编码能实现信源压缩吗？;一个具有启发意义的例子;序列出现概率的分布情况 ;A频率在[0.19,0.21] 的序列的概率和;A频率在[0.19,0.21] 序列的比例 ;结论;想法 – 渐近无失真编码;渐近无失真编码;如何用数学工具来描述“常见”序列？;弱典型序列;渐近等分性（asymptotic equipartition property）;弱典型序列的特性;弱典型序列的特性;弱典型序列的特性;典型序列特性的总结;;等长信源编码定理;等长信源编码定理的证明;思考;编码效率;例3.2.3;;第3节离散无记忆信源的不等长编码;等长还是不等长？;等长还是不等长？;几个定义;例子;码C;唯一可译码的判别;唯一可译码的判别;例子;变长码的分类;D元序列的数目;三元树图;D元树图;异字头码的构造;Kraft不等式;例子：如何构造给定长度的异字头码;例子：如何构造给定长度的异字头码;例子：如何构造给定长度的异字头码;McMillian不等式;生成函数：一个例子;生成函数：一个例子;生成函数的应用;最佳码;最佳码;不等长编码定理;不等长编码定理;不等长编码定理;不等长编码定理;联合多符号编码;例3.3.1, P69;第4节 最佳不等长编码;Huffman编码;二元Huffman编码：一个例子;二元Huffman码的编码过程;二元Huffman码的编码过程;Huffman编码的结果并不唯一;Huffman编码不唯一：例子;二元Huffman码的最优性;二元Huffman码的最优性;二元Huffman码的最优性;编码效率 vs. 信源序列长度;编码效率 vs. 信源序列长度;D元Huffman编码;第一次合并的节点数目;第一次合并的节点数目;问题;异字头码的译码;异字头码译码：一个例子;Shannon-Fano Coding;Shannon–Fano Algorithm;Robert M. Fano;Shannon-Fano码;Shannon-Fano码;Shannon-Fano码;Shannon-Fano码;Shannon-Fano码;Shannon-Fano码与Huffman码的比较;思考;Shannon Coding;Shannon码;Shannon码;如何求十进制小数的二进制表示？;a7;Shannon码是异字头码吗？;Shannon码是异字头码吗？;Shannon码，Fano码，还是Shannon-Fano码？;Shannon-Fano-Elias Codes;码字的构造方法;码长的确定;非奇异性;异字头性;SFE码的特点;由Shannon码学到的一个方法;算术编码（Arithmetic Coding）;算术编码（Arithmetic Coding）;序列的累积概率;序列的累积概率;算术编码的编码过程;累积概率递推计算公式;累积概率递推计算公式;累积概率递推计算公式;累积概率递推计算公式;累积概率递推计算公式;累积概率递推计算公式;i;例子;算术编码的唯一可译性;思考;LZ编码;LZ78算法;LZ78算法;LZ78算法;例子;思考;问题;;