第二章 无损数据压缩基础.pptVIP

无损数据压缩 无损压缩：是指使用压缩后的数据进行重构(或者叫做还原，解压缩)，重构后的数据与原来的数据完全相同； 无损压缩用于要求重构的信号与原始信号完全一致的场合。 磁盘文件的压缩。数据压缩到原来的1/2～1/4。 霍夫曼(Huffman)算法和LZW(Lenpel-Ziv Welch)压缩算法。 有损压缩：指使用压缩后的数据进行重构，重构后的数据与原来的数据有所不同，但不影响人对原始资料表达的信息造成误解。 有损压缩适用于重构信号不一定非要和原始信号完全相同的场合。 图像和声音的压缩（因为其中包含的数据往往多于我们的视觉系统和听觉系统所能接收的信息，丢掉一些数据而不至于对声音或者图像所表达的意思产生误解，但可大大提高压缩比）。 熵 shāng 物理名词,用热量除温度所得的商,标志热量转化为功的程度 . 物理意义：物质微观热运动时，混乱程度的标志 科学技术上泛指某些物质系统状态的一种量（liàng）度，某些物质系统状态可能出现的程度。亦被社会科学用以借喻人类社会某些状态的程 在信息论中，熵表示的是不确定性的量度。 /view/936.htm 香农-范诺与霍夫曼编码 1. Entropy(熵)的概念 熵是信息量的度量方法，它表示某一事件出现的消息越多，事件发生的可能性就越小，数学上就是概率越小。 某个事件的信息量用Ii=-log2Pi 表示 ， 其中Pi 为第i个事件的概率，0 Pi1 香农-范诺与霍夫曼编码 2. 信源S的熵的定义 按照香农(Shannon)的理论，信源S的熵定义为 H(s)=?=?iPiLog2(1/Pi)其中 Pi是符号Si在S中出现的概率； Log2(1/Pi)表示包含在 Si中的信息量，也就是编码 Si所需要的位数。例如，一幅用256级灰度表示的图像，如果每一个象素点灰度的概率均为1/256，编码每一个象素点就需要8位。 [例4.1] 有一幅40个象素组成的灰度图像，灰度共有5级，分别用符号A、B、C、D和E表示，40个象素中出现灰度A的象素数有15个，出现灰度B的象素数有7个，出现灰度C的象素数有7个,出现灰度D和E的象素数为6个和5个。如果用3个位表示5个等级的灰度值，也就是每个象素用3位表示，编码这幅图像总共需要120位。 H(S) = (15/40) * log2(40/15) + (7/40) * log2 (40/7) + …… + (5/40) * log2(40/5) =2.196这就是说每个符号用2.196位表示，40个象素需用87.84位。 香农-范诺算法编码 霍夫曼编码 从下到上的编码方法 初始化，根据符号概率的大小按由大到小顺序对符号进行排序，把概率最小的两个符号组成一个节点 [例4.2] 有一幅40个象素组成的灰度图像，灰度共有5级，分别用符号A、B、C、D和E表示，40个象素中出现灰度A的象素数有15个，出现灰度B的象素数有7个，出现灰度C的象素数有7个,出现灰度D和E的象素数为6个和5个。 霍夫曼编码 霍夫曼码的码长虽然是可变的，但却不需要另外附加同步代码。例如，码串中的第1位为0，那末肯定是符号A，因为表示其他符号的代码没有一个是以0开始的，因此下一位就表示下一个符号代码的第1位。同样，如果出现“110”，那么它就代表符号D。如果事先编写出一本解释各种代码意义的“词典”，即码簿，那么就可以根据码簿一个码一个码地依次进行译码。 采用霍夫曼编码时有两个问题值得注意：①霍夫曼码没有错误保护功能，在译码时，如果码串中没有错误，那么就能一个接一个地正确译出代码。但如果码串中有错误，哪仅是1位出现错误，不但这个码本身译错，更糟糕的是一错一大串，全乱了套，这种现象称为错误传播(error propagation)。计算机对这种错误也无能为力，说不出错在哪里，更谈不上去纠正它。②霍夫曼码是可变长度码，因此很难随意查找或调用压缩文件中间的内容，然后再译码，这就需要在存储代码之前加以考虑。 与香农-范诺编码相比，这两种方法都自含同步码，在编码之后的码串中都不须要另外添加标记符号，即在译码时分割符号的特殊代码。 4.2 算术编码 算术编码在图像数据压缩标准(如JPEG，JBIG)中扮演了重要的角色。在算术编码中，消息用0到1之间的实数进行编码，算术编码用到两个基本的参数：符号的概率和它的编码间隔。信源符号的概率决定压缩编码的效率，也决定编码过程中信源符号的间隔，而这些间隔包含在0到1之间。编码过程中的间隔决定了符号压缩后的输出。 在算术编码中需要注意的几个问题： 由于实际的计算机的精度不可能无限长，运算中出现溢出是一个明显的问题，但多数机器都有16位、32位或者64位的精度，因此这个问题可使用比例缩放方法解决。 算术编码器对整个消息只产生一个码字，这个码字