第5章 信源编码.pptVIP

第5章 信源编码;一、无失真信源编码定理与异前置码;如果码率;2、编码效率;无失真信源编码及编码效率;无失真编码1——等长码;二次扩展信源;码长K=4(bit);等长码的码率为整数，熵率为小数情况下编码效率不可能提高;二次扩展信源;2019/9/15;无失真信源不等长编码的结论与问题;3、异前置码;码A不是单义可译码——不能从不等长码串中唯一分割出对应于每个符号的码字；码B是延时码——它需等到对应于下个符号的码字开头0才能确定本码字的结束；码C是即时码;定义;码树图从树根开始到每片树叶的联枝代表一个码字;长度为ki i=1,2, …,nN的二进制异前置码存在的充分必要条件;5、最优码;2019/9/15;2019/9/15;二、无失真信源编码;③令P(a0)=0，计算第i-1个符号序列的累加概率;编香农码并计算编码效率;③令P(x0)=0，计算第i个码字的累加概率;④将Pa(xi)用二进制表示，取小数点后ki位作为xi的码字ci;xi;2019/9/15;分别对信源和二次扩展信源编香农码并计算编码效率;Pa(x1)=0.0=(0.000000…)2→c1=0 Pa(x2)=0.5=(0.100000…)2→c2=10 Pa(x3)=0.8=(0.110011…)2→c3=110;2019/9/15;(2)二次扩展信源编码并计算编码效率;2019/9/15;Pa(x1x1)=0+0=0 Pa(x1x2)=0+0.25=0.25 Pa(x2x1)=0.25+0.15=0.4 Pa(x1x3)=0.4+0.15=0.55 Pa(x3x1)=0.55+0.1=0.65 Pa(x2x2)=0.65+0.1=0.75 Pa(x2x3)=0.75+0.09=0.84 Pa(x3x2)=0.84+0.06=0.9 Pa(x3x3)=0.9+0.06=0.96;Pa(x1x1)=0.0=(0.00)2→c1=00 Pa(x1x2)=0.25=(0.010)2→c2=010 Pa(x2x1)=0.4=(0.011…)2→c3=011 Pa(x1x3)=0.55=(0.1000…)2→c4=1000 Pa(x3x1)=0.65=(0.1010…)2→c5=1010 Pa(x2x2)=0.75=(0.1100)2→c6=1100 Pa(x2x3)=0.84=(0.11010…)2→c7=11010 Pa(x3x2)=0.9=(0.11100…)2→c8=11100 Pa(x3x3)=0.96=(0.11101…)2→c9=11101;ai;2019/9/15;香农码的特点;习题，(P166)5.1;①将符号序列ai i=1,2,…,nN按概率降序排列;编费诺码并计算编码效率;xi;第二次分组及分配二进制码元;第三次分组及分配二进制码元;2019/9/15;例2;第二次分组及分配二进制码元;2019/9/15;(2)二次扩展信源编码并计算编码效率;第二次分组及分配二进制码元;第三次分组及分配二进制码元;第六次分组及分配二进制码元;ai;2019/9/15;两种方法进行费诺编码并计算平均码长;第二次分组及分配二进制码元;xi;(2)方法2——小概率分组排在前面;第三次分组及分配二进制码元;xi;采用不同排列方法编出的???诺码，码字和码长可能完全不相同，但平均码长相等——编码效率不会因排列方法而改变;费诺码的特点;习题，(P166)5.2;①将符号序列ai i=1,2,…,nN按概率降序排列;编赫夫曼码并计算编码效率;1;重复① ② ③步骤，直到合并出一个以1为概率的新符号;ci;2019/9/15;例2;xi;(2)二次扩展信源编码并计算编码效率;ai;2;2019/9/15;两种方法进行赫夫曼编码并计算平均码长;xi;(2)方法2——合并后的新符号排在其它相同概率符号之前;采用不同排列方法编出的赫夫曼码，码字和码长可能完全不相同，但平均码长一定相等——编码效率不会因排列方法而改变;赫夫曼码的特点;习题，(P166-167)5.3(二进制)、5.6