北京理工大学信息论第八章.pptVIP

举例：已输入二元符号序列为s=“011”，接着再输入符号为“1”，得序列累积分布函数为： F(s1)=F(0111)=F(s=“011”)+P(011)?P(0) =F(s=“01”)+P(01)?P(0)+P(011)?P(0) =F(s=“0”)+P(0)?P(0) +P(01)?P(0)+P(011)?P(0) =0+P(00)+P(010)+P(0110) 对应的区间宽度为 A(s1)=P(s=“011”)?P(1)=P(011)P(1)=P(0111) * 上述整个分析过程可用图8.9描述 式(8.51)和(8.52)是可递推运算，在实际中，只需两个存储器，把P(s)和F(s)存下来，然后，根据输入符号和式(8.51)、(8.52)更新两个存储器中的数值。因此在编码过程中，每输入一个符号要进行乘法和加法运算，所以称为算术编码。 * * 通过关于信源符号序列的累积分布函数的计算，把区间分割成许多小区间，不同的信源符号序列对应不同的区间为[F(s),F(s)+P(s)) 。可取小区间内的一点来代表这序列。 编码方法：将符号序列的累积分布函数写成二进位的小数，取小数点后k位，若后面有尾数，就进位到第k位，这样得到的一个数C，并使k满足 举例 * 8.5.4 算术编码方法 编码效率 这样选取的数值C，一般根据二进位小数截去尾数的影响，得 C－F(s)1/2k，当F(s)在l位以后没有尾数时C=F(s)。 F(s)+ 1/2kC 而P(s)≥1/2k 信源符号序列对应区间的上界为 F(s)+P(s)≥F(s)+1/2kC 可见，数值在区间[F(s),F(s)+P(s))内。而信源符号序列对应的不同区间（左封右开）是不重叠的，所以编得的码是即时码。 * 算术编码的编码效率很高。当信源符号序列很长时，L很大时，平均码长接近信源的熵。 * 例：设二元无记忆信源S={0,1}，其P(0)=1/4，P(1)=3/4。对二元序算术编码。 [解]：P(s=P2(0)P6(1)=(3/4)6(1/4)2 F(sr)=F(s)+P(s)?F(r) F(s0)=F(s) F(s1)=F(s)+P(s)?F(1)= F(s)+P(s)?P(0) F(s)=P(0)+P(1)P(0)+P(1)2P(0)+P(1)3P(0)+P(1)4P(0)+P(1)5P(0) =0.82202=0.110100100111 得C＝0.1101010 得s的码字为1101010。 编码效率 * 举 例 * 举 例 * 一. 冗余编码特点及应用 二. 冗余编码方法 三. L－D编码方法 四. L－D译码方法 五. 举例 第六节 冗余编码 * 冗余位：在信源序列中，常有许多符号不携带信息，除了符号的数目或所占时长外，完全可以不传送。这些符号称为冗余位。如语音通信中讲话的间歇；图像通信中，图像的背景基本不变，并在图像中占相当大一部分。 这些冗余位所占的时长对正确表达信源是必须的，但没有必要全部传送，如果能去掉一部分，将会提高通信效率。 L－D编码是一种典型的冗余位编码，它适合于冗余位较多或较少的情况。当冗余位和信息位数相当时， L－D编码非但不能压缩码率，反而使其有所扩展，不易应用。 一.冗余编码特点及应用 * 设多元消息序列 x1,x2,…,xm1,y,y,…y,xm1+1,xm1+2,…,xm2,y,y,… x—信息位； y—冗余位，可为全0或某种固定格式。 这样的序列可用下列序列来代替 111,…,100, …,000111, …,111000 二元序列中的“1”代表信息位； “0”代表冗余位； 连“1”和连“0”的个数分别代表信息位和冗余位的长度。 x1,x2,…,xm1,xm1+1,xm1+2,…,xm2… 删除了所有的冗余位，只把信息位排在一起。 二. 冗余编码方法 * 把一个多元序列分解成一个二元序列和一个缩短了的多元序列，对两个序列分别用不同的方法编码，可更有效地压缩信源。比如，对二元序列采用游程编码，而对缩短的多元序列直接采用赫夫曼编码。 这种方法要求同时传输两个序列，才能在接收端实时恢复出原来的多元序列，在实用上有一定的困难，因此，常采用分帧传送的方式。 * L－D编码方法是一种分帧传送的方式； 编码方法 在冗余