第八章 无失真的信源编码.pptVIP

费诺编码的基本特点 １. 费诺编码在构造码树时，是从树根开始到终端节点结束； ２. 由于赋码元时的任意性，因此编出的码字不是唯一的； ３. 费诺编码虽属于概率匹配范畴，但并未严格遵守匹配规则，有时出现概率小的码长反而小。因此平均码长一般不会最小。 算术编码特点 1）算术编码有基于概率统计的固定模式，也有相对灵活的自适应模式, 自适应模式的工作方式是：为各个符号设定相同的概率初始值，然后根据出现的符号做相应的改变。 2）自适应模式适用于不进行概率统计的场合。 3）当信号源符号的出现概率接近时,算术编码的效率高于哈夫曼编码。 4）算术编码的实现相应地比哈夫曼编码复杂，但在图像测试中表明，算术编码效率比哈夫曼编码效率高５％左右。 举例：已输入二元符号序列为s=“011”，接着再输入符号为“1”，得序列累积分布函数为： F (s1)=F (0111)=F (s=“011”)+P(011) ?P(0) =F (s=“01”)+P(01) ?P(0)+P(011)?P(0) =F (s=“0”)+P(0) ?P(0) +P(01)?P(0)+P(011)?P(0) =0+P(00)+P(010)+P(0110) 对应的区间宽度为 A(s1)=P(s=“011”)?P(1)=P (011)P(1)=P(0111) 上述整个分析过程可用下图描述； 只需两个存储器，把P(s)和F(s)存下来，然后根据输入符号更新两个存储器中的数值。 第五节 算术编码 第五节 算术编码 通过关于信源符号序列的累积分布函数的计算，把区间分割成许多小区间，不同的信源符号序列对应不同的区间为 [F (s),F (s)+P (s)] 。可取小区间内的一点来代表这序列。 编码方法：将符号序列的累积分布函数写成二进位的小数，取小数点后k位，若后面有尾数，就进位到第k位，这样得到的一个数C，并使k满足 举例 第五节 算术编码 编码效率 这样选取的数值C，根据二进小数截去尾数的影响得 C－F (s)1/2k，当在l以后没有尾数时C=F (s)。 F (s)+ 1/2kC 而P (s)≥1/2k （根据k的取值可知） 信源符号序列对应区间的上界为 F (s)+P(s)≥F (s)+1/2kC 可见，数值在区间[F (s),F (s)+P(s))内。而信源符号序列对应的不同区间（左封右开）是不重叠的，所以编得的码是即时码。 第五节 算术编码 算术编码的编码效率很高。当信源符号序列很长时， L很大时，平均码长接近信源的熵。 第五节 算术编码 译码就是一系列比较过程，每一步比较C－F (s)与P (s)P (0)。 F (s0)=F (s) F (s1)=F (s)+P (s)?P (0) s为前面已译出的序列串； P (s)是序列串s对应的宽度； F (s)是序列串s的累积分布函数，即为s对应区间的下界； P (s)P (0)是此区间内下一个输入为符号“0”所占的子区间宽度； 若C－F (s)P (s)P (0)则输出符号为“0”； 若C－F (s)P (s)P (0)则输出符号为“1”。 第五节 算术编码 算术编码算法过程 设空信源序列为λ，置P(λ)=1,F(λ)=0; 对i=1,2…n,在二进制数字系统中按序执行下列运算： 计算 与序列对应的码字就是把 按二进制小数展开取小数点后的 位，若后面有尾数则进位到 位。 算术编码的译码过程 例：设二元无记忆信源S={0,1}，其P (0)=1/4， P (1)=3/4。对二元序 算术编码。 解：P (s=P 2(0)P 6(1)=(3/4)6(1/4)2 F (sr)=F (s)+P (s)?F (r) F (s0)=F (s) F (s1)=F (s)+P (s)?F (1)= F (s)+P (s)?P (0) F (s)=P (0)+P (1)P (0)+P (1)2P (0)+P (1)3P(0)+P (1)4P (0)+P (1)5P (0) =0.82202=0.110100100111 得C＝0.1101010 得s的码字为1101010。 编码效率 第五节 算术编码 第六节 字典码—LZ编码 前面介绍的各种编码方法，都需要知道信源的