信息论与编碌碾原理_第6章_信源编码.pptVIP

信息论与编码原理;第六章 信源编码;6.1 引 言;6.1.1 编码的目的;6.1.1 编码的目的;6.1.2 信源编码概述;6.1.2 信源编码概述;6.1.2 信源编码概述;6.1.2 信源编码概述;6.1.2 信源编码概述;6.1.2 信源编码概述;6.2 香农编码;6.2 香农编码;6.2 香农编码;6.2 香农编码;6.2 香农编码;6.3 费诺编码;6.3 费诺编码;6.3 费诺编码;6.3 费诺编码;6.3 费诺编码;6.4 哈夫曼编码;6.4.1 编码步骤;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.2 二进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.4.3 m 进制哈夫曼编码;6.5 游程编码;6.5.1 游程编码对象和性质;6.5.2 游程编码的定义;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.3 二元独立序列;6.5.4 游程编码的效率;6.5.5 长码的截断处理方法;6.6 算术编码;6.6.1 算术编码的特点及应用;6.6.2 累积分布函数 F(s) 及对应的区间;6.6.2 累积分布函数 F(s) 及对应的区间;6.6.2 累积分布函数 F(s) 及对应的区间;6.6.2 累积分布函数 F(s) 及对应的区间;6.6.2 累积分布函数 F(s) 及对应的区间;6.6.2 累积分布函数 F(s) 及对应的区间;6.6.3 信源序列累积分布函数的递推公式;举例：已输入二元符号序列为 s=“011”，接着再输入符号为“1”，得序列累积分布函数为： F(s1)=F(0111)=F(s=“011”)+P(011)?P(0) =F(s=“01”)+P(01)?P(0)+P(011)?P(0) =F(s=“0”)+P(0)?P(0) +P(01)?P(0)+P(011)?P(0) =0+P(00)+P(010)+P(0110) 对应的区间宽度为： A(s1)=P(s=“011”)?P(1)=P(011)P(1)=P(0111) F(s1)=F(s)+P(s)?P(0) A(s1)=P(s1)=P(s)?P(1);上述整个分析过程可用图5.6.1描述 ;式(5.6.1)和(5.6.2)是可递推运算，在实际中，只需两个存储器，把 P(s) 和 F(s) 存下来，然后，根据输入符号和式(5.6.1)、(5.6.2)更新两个存储器中的数值。因此在编码过程中，每输入一个符号要进行乘法和加法运算，所以称为算术编码。 F(sr)=F(s)+P(s)?F(r) (r=0,1) (5.6.1) A(sr)=P(sr)=P(s)?P(r) (r=0,1) (5.6.2) ; 通过关于信源符号序列的累积分布函数的计算，把区间分割成许多小区间，不同的信源符号序列对应不同的区间 。可取小区间内的一点来代表这序列。 编码方法：将符号序列的累积分布函数写成二进位的小数，取小数点后 k 位，若后面有尾数，就进位到第 k 位，这样得到的一个数 C，并使 k 满足： 举例：; 编码效率 算术编码的编码效率很高。当信源符号序列很长时，L 很大时，平均码长接近信源的熵。;译码就是一系列比较过程，每一步比较 C－F(s) 与 P(s)P(0)。 F(s0)=F(s) F(s1)=F(s)+P(s)?P(0) s—前面已译出的序列串 P(s)—序列串 s 对应的宽度 F(s) 是序列串 s 的累积分布函数，即为 s 对应区间的下界； P(s)P(0) 是此区间内下一个输入为符号“0”所占的子区间宽度； 若 C－F(s)P(s)P(0) 则译输出符号为“0”； 若 C－F(s)P(s)P(0) 则译输出符号