第6章无失真信源编码要点.ppt

第6章 无失真信源编码 信源编码与数据压缩 6.1 编码的基本概念 6.2 “无失真”的本质 6.3 定长码 6.4 变长码 6.5 变长码的编码方法（内容略增） 6.6 算术编码 6.7 LZW编码 本章小结 信源编码与数据压缩 对于信源来说，有三个重要问题需要解决： 1、如何构建描述信源的模型； 2、信源输出信息量的计算，即信源熵的问题； 3、如何更有效的表示信源输出问题，即信源压缩编码问题。 信源编码的主要任务就是： 减少冗余，提高编码效率。 1、信源编码问题 信源编码的基本途径有两个： 一是使序列中各个符号尽可能地相互独立，即解除相关性； 二是使编码中各个符号出现的概率尽可能地相等，即概率均匀化。 具体来说，就是针对信源输出符号序列的统计特性，寻找一定的办法把信源输出符号序列变换为最短的码字序列。 许多情况下，并不要求在信宿精确重现信源的输出，只要满足一定的重建质量要求即可，即允许信息传输中出现一定失真，这就是限失真信源编码问题。 例如，在电话通信中，只要能将通话内容送达对方就可以了，对音质并无太高要求。 实际通信时，信道往往存在干扰，要完全精确地重现信源输出几乎是做不到的。这就允许接收信号有一定限度的失真。 限失真信源编码问题（第7章重点介绍） 2、数据压缩问题 数据压缩: 就是用尽可能少的比特数来表示源信号（采样和量化后数字信号），并能将其还原。 压缩的任务就是保持信源信号在一个可以接受的状况前提下,把需要的比特数减到最少程度，以达到减少存储、处理和传输成本的目的。 信息理论认为： 若信源编码的熵大于信源的实际熵，该信源中一定存在冗余度，去掉冗余不会减少信息量，仍可原样恢复数据；但若减少了熵，数据则不能完全恢复。 但在允许的范围内损失一定的熵，数据可以近似地恢复。 常用的压缩编码方法可以分为两大类： 1、无损压缩编码法，也称冗余压缩法或熵编码法及无失真编码； 2、有损压缩编码法，也称为熵压缩法或限失真编码。 无损压缩： 是利用数据的统计冗余进行压缩，可完全回复原始数据而不引起任何失真。 但压缩率是受到数据统计冗余度的理论限制，一般为2:1到5:1。特殊应用场合的图像数据(如指纹图像，医学图像等)的压缩通常采用这种压缩。 由于压缩比的限制，仅使用无损压缩方法是不可能解决图像和数字视频的存储和传输的所有问题。 经常使用的无损压缩方法有： 香农Shannon编码，哈夫曼Huffman 编码，游程(Run-length)编码，LZW(Lempel-Ziv-Welch)编码和算术编码等。 无损压缩优点：可以做到100％的保存、没有任 何信号丢失，并且转换方便。 无损压缩不足：占用空间大、压缩比不高而且 缺乏硬件支持。 有损数据压缩： 经过压缩、解压的数据与原始数据不同,但是非常接近的压缩方法，又称破坏型压缩； 即将次要的信息数据压缩掉，牺牲一些质量来减少数据量，使压缩比提高。 如，利用人类对图像或声波中的某些频率成分不敏感的特性，允许压缩过程中损失一定的信息；虽然不能完全恢复原始数据，但是所损失的部分对理解原始图像的影响缩小，却换来了大得多的压缩比。 有损压缩广泛应用于语音，图像和视频数据的压缩。 在多媒体应用中，常见的有损压缩方法有： PCM(脉冲编码调制)，预测编码； 变换编码，插值和外推法； 统计编码，矢量量化和子带编码等； 混合编码是近年来广泛采用的方法。 有损压缩的优点： 在有些情况下能够获得比任何已知无损方法小得多的文件大小，同时又能满足系统的需要。 有损压缩的不足： 会影响图像质量，尤其是在仔细观察的时候，质量下降更加明显。 6.1 编码的基本概念 6.1.1 编码器和译码器 6.1.2 码的分类 6.1.3 N次（阶）扩展码 6.1.1 编码器和译码器 信源编码器 编码的实质：是对信源的原始符号按一定的数学规则进行的一种变换; 以码字代替原始信源符号; 使变换后得到的码符号接近等概率分布; 从而提高信息的传输有效性。 编码器模型： 输入序列 输入序列中每一个符号序列si来自集合 编码输出序列 其中编码输出序列中每一个符号序列ci来自码字集合 一般m=n W称为码字集合，wi （i=1,2,…,m)称为码字 译码是编码的反过程。 N长输入序列 L长码字序列 符号 码1 码2 码3 码4 码5 u1 00 0 0 1 1 u2 01 10 11 01 10 u3 10 00 00 001 100 u4 11 01 11 000