第章无失真信源编码教学教材.pptVIP

第3章 无失真信源编码;1 信源符号的码字：用来表示信源符号的数字序列W;符号;符号;信源;如;第2节 单义可译码;字母;第2节 单义可译码;第2节 单义可译码;1、非延长码定义;第3节 非延长码及其构成;第4节 单义可译定理;符号;第4节 单义可译定理;第4节 单义可译定理;2、下面哪种说法是不正确的 （ ） A 任何满足Kraft不等式的编码一定是前缀编码。 B 任何前缀编码一定满足Kraft不等式。 C 前缀编码条件是：任何一个有效信源码字不能是其它有效信源码字的前缀。 D 若某信源编码要求的编码长度满足Kraft不等式，则至少可以找到一种前缀编码。;2、平均码字长度，平均每个信源符号对应码字的长度;第5节 平均码长与编码有效性;第5节 平均码长与编码有效性;例：p373;0;符号;P408 T4 P409 T6;平均码字长度越小越好，但是对于一种给定信源，其平均码字长度是受到该信源的熵影响的。;2、证明下界;2) 证明：;3、上界证明;第6节 平均码长的界限定理;第6节 平均码长的界限定理;例 考虑一个信源 X， 发出四种符号的概率分别为：p1=0.5, p2=0.3, p3=0.1 ， p4=0.1。其非延长码编码为 {0,10,110,111}。找出这种编码的平均码字长度及信道的信息率。;第6节 平均码长的界限定理;4、推广到一般情况;1、说明;2、模型;3、二进制Huffman编码步骤;4) 重复步骤2)和3)，直到只剩下一个合成符号;第7节 Huffman 编码;第7节 Huffman 编码;讨论1：若将两个符号连接起来后，将上支标注“1”而将下支标注“0”。编码是否仍为非延长码？编码效率有何变化？;结论： 1、将两个符号连接起来后，将上支标注“1”而将下支标注“0”。编码仍为非延长码，编码效率不变。 2、Huffman编码不唯一。;例：;s1;2) 信息率;讨论2：若有两个信源符号概率相同，该如何编码？;说明： 信源编码平均码字长度越小越好，平均码长方差越小越好 码长方差定义为：;例：考虑一个DMS信源，其概率空间为：;1) Huffman编码;第7节 Huffman 编码;2) 信息率;1) Huffman编码;第7节 Huffman 编码;2) 信息率;说明：;4、r进制Huffman编码步骤;2) 将最底端的r个符号连接起来，各支按照从上到下的顺序标注0，1，…，(r-1)。;第7节 Huffman 编码;第7节 Huffman 编码;第7节 Huffman 编码;第7节 Huffman 编码;第7节 Huffman 编码;5、扩展信源符号编码;第7节 Huffman 编码;符号;平均每个信源符号对应的信源码符号数;结论：;作业：;第8节 香农编码;第8节 香农编码;例：;第8节 香农编码;第8节 香农编码;第8节 香农编码;第8节 香农编码;第9节 费诺编码;第9节 费诺编码;第9节 费诺编码;作业;第11节 游程（行程）编码