计算机组成原理2.pptVIP

2.3 数据压缩的技术基础 数据压缩的基本理论：研究信息究竟能被压缩到多小。 借用了热力学中的名词“熵”来表示一条信息中真正需要编码的信息量。 1、信息量 （1） 某个事件的信息量可表示如下，其中 pi是第i个事件的概率，其中0 pi=1， 2、熵的概念 （1）熵是信息量的度量方法，含义是信源S发出任意一个随机变量的平均信息量。 （2）根据香农理论，信源S的熵定义为： 3、平均码长： 熵值可以理解为最佳平均码长。 4、熵的作用：衡量编码是否为最佳编码。 5、例子 40个像素组成的5级灰度图像（15个A、7个B、7个C、6个D、5个E），用3位来表示每个像素点，共需要120位，经计算这幅图像的熵是2.196，40个像素需用87.84位。 香农-范诺编码 （1）采用从上到下构造一棵二叉树的方法进行编码。 （2）方法： 将给定符号按照其频率从大到小排序； 将序列分成上下两部分，使得上部频率总和尽可能接近下部频率总和； 把第二步中划分出的上部作为二叉树的左子树，记0；下部作为二叉树的右子树，记1； 分别对左右子树重复2、3两步，直到所有的符号都称为二叉树的树叶为止。 2.4.1哈夫曼编码 （1）哈夫曼编码广泛用于各种数据压缩技术中； （2）是熵编码中的最佳编码方法。 1、操作步骤： （1）概率统计得到n个不同的概率的信息符号； （2）将n个信源信息符号的n个概率按概率大小排序； （3）将n个概率中最后两个小概率相加，这时概率个数减为n-1个； （4）将n-1个概率按大小重新排序； （5）重复3)，将新排序后的最后两个小概率再相加，相加和与其余概率在排序； （6）如此反复重复n-2次，得到只剩两个概率序列； （7）以二进制码元(0.1)赋值，构成哈夫曼码字。编码结束。 2、举例 3、总结 （1）平均码长 （2）平均码长 （3）保证解码的惟一性，短码字不构成长码字的前缀 （4）在接受端需保存一个与发送端相同的哈夫曼码表 4、注意的问题 （1）没有错误保护功能； （2）为可变长码，很难随意查找或调用压缩文件中间的内容； 2.4.2 算术编码 1、定义：消息用0和1之间的实数进行编码。 2、两个基本参数：符号的概率及其编码间隔。 3、操作步骤： （1）在0和1之间给每个符号分配一个初始子间隔，子间隔的长度等于它的概率； （2）第一个字符所在的区间即为下一步所占的空间，将这个空间按初始空间的划分方式再一次进行划分； （3）第二个字符所在的区间是第二次划分区间中它所在的区间，是下一步划分的区间,依此类推，直到最后一个字符； （4）编码结果为最后一个字符所在区间中的一个小数值。 4、举例： 假设信源符号为{00，01，10，11}，这些符号的概率分别为{0.1,0.4,0.2,0.3}，根据这些概率可把间隔[0,1)分成4个间隔:[0,0.1),[0.1,0.5),[0.5,0.7),[0.7,1)，要求对消息序列：10 00 11 00 10 11 01进行算术编码。 5、编码公式： 这里low表示上一个被编字符的低端，range表示上一个字符的范围，rangelow，rangehigh表示当前编码字符在初始分隔区间的两端。 6、译码公式： 这里number表示输出的结果，rangelow表示上一次译码字符的低端，range表示上一次译码字符的范围。 7、算术编码需要注意的问题 （1）实际计算机的精度不可能无限长,运算中会出现溢出的问题； （2）整个运算只产生一个码字，译码器在接受到表示这个实数的所有位之前不能进行译码； （3）也是一种对错误很敏感的编码方法，有一位发生错误就会导致整个消息译错。 8、课后作业 消息为“state tree”，要求用算术编码方法对其进行压缩。 2.4.3游程编码 1、定义：对于相同颜色的图块，不需要存储每个像素的值，仅需存储一个像素的颜色值，以及具有相同颜色的像素数目，或者存储一个像素的颜色值，以及具有相同颜色值的行数，即称为游程编码(RLE ,run length encoding)。 利用空间冗余度压缩图像的方法。 2、举例 编码前： 000000001118888888888888888111111000000000共42位 编码后： 80311686190 共11位 3、好处 编码技术相当直观； 非常经济； 4、注意问题 适用于计算机生成的图像； 对颜色丰富的自然图像显得力不从心； 2.4.4字典编