信息论与编码论文-学号20092334915宁向前.doc

南京信息工程大学[滨江学院] Time \@ yyyy年M月d日2011年11月27日 通修课论文 作者:[宁向前] 学号：[20092334915] 指导教师：[宦海] 专业名称：[通信工程] 信息论与编码之数据压缩 ] 目录 TOC \o 1-3 \h \z \u  HYPERLINK \l _Toc4098 简介  PAGEREF _Toc4098 3  HYPERLINK \l _Toc4220 概要  PAGEREF _Toc4220 3  HYPERLINK \l _Toc3196 原理  PAGEREF _Toc3196 3  HYPERLINK \l _Toc18590 应用  PAGEREF _Toc18590 4  HYPERLINK \l _Toc19074 理论  PAGEREF _Toc19074 4  HYPERLINK \l _Toc3561 类型  PAGEREF _Toc3561 5  HYPERLINK \l _Toc25777 流行算法  PAGEREF _Toc25777 5  HYPERLINK \l _Toc18643 算法编码  PAGEREF _Toc18643 6  HYPERLINK \l _Toc16555 算法编码简介  PAGEREF _Toc16555 6  HYPERLINK \l _Toc4955 算术编码的主要概念  PAGEREF _Toc4955 6  HYPERLINK \l _Toc14287 编码方法：  PAGEREF _Toc14287 7  HYPERLINK \l _Toc21333 总结  PAGEREF _Toc21333 7 关键词：简介 概要 原理 应用 理论 类型 流行算法 算法编码 简介 在计算机科学和信息论中，数据压缩或者源编码是按照特定的编码机制用比未经编码少的数据位元（或者其它信息相关的单位）表示信息的过程。例如，如果我们将“compression”编码为“comp”那么这篇文章可以用较少的数据位表示。一种流行的压缩实例是许多计算机都在使用的ZIP 文件格式，它不仅仅提供了压缩的功能，而且还作为归档工具（Archiver）使用，能够将许多文件存储到同一个文件中。 概要 　　对于任何形式的通信来说，只有当信息的发送方和接受方都能够理解编码机制的时候压缩数据通信才能够工作。例如，只有当接受方知道这篇文章需要用英语字符解释的时候这篇文章才有意义。同样，只有当接受方知道编码方法的时候他才能够理解压缩数据。一些压缩算法利用了这个特性，在压缩过程中对数据进行加密，例如利用密码加密，以保证只有得到授权的一方才能正确地得到数据。 　　数据压缩能够实现是因为多数现实世界的数据都有统计冗余。例如，字母“e”在英语中比字母“z”更加常用，字母“q”后面是“z”的可能性非常小。无损压缩算法通常利用了统计冗余，这样就能更加简练地、但仍然是完整地表示发送方的数据。 　　如果允许一定程度的保真度损失，那么还可以实现进一步的压缩。例如，人们看图画或者电视画面的时候可能并不会注意到一些细节并不完善。同样，两个音频录音采样序列可能听起来一样，但实际上并不完全一样。有损压缩算法在带来微小差别的情况下使用较少的位数表示图像、视频或者音频。 　　由于可以帮助减少如硬盘空间与连接带宽这样的昂贵资源的消耗，所以压缩非常重要，然而压缩需要消耗信息处理资源，这也可能是费用昂贵的。所以数据压缩机制的设计需要在压缩能力、失真度、所需计算资源以及其它需要考虑的不同因素之间进行折衷。 　　一些机制是可逆的，这样就可以恢复原始的数据，这种机制称为无损数据压缩；另外一些机制为了实现更高的压缩率允许一定程度的数据损失，这种机制称为有损数据压缩。 　　然而，经常有一些文件不能被无损数据压缩算法压缩，实际上对于不含可以辨别样式的数据任何压缩算法都不能压缩。试图压缩已经经过压缩的数据通常得到的结果实际上是扩展数据，试图压缩经过加密的数据通常也会得到这种结果。 　　实际上，有损数据压缩也会最终达到不能工作的地步。我们来举一个极端的例子，压缩算法每次去掉文件最后一个字节，那么经过这个算法不断的压缩直至文件变空，压缩算法将不能继续工作。 原理 　　事实上，多媒体信息存在许多数据冗余。例如，一幅图像中的静止建筑背景、蓝天和绿地，其中许多像素是相同的如果逐点存储，就会浪费许多空间，这称为空间冗余。又如，在电视和动画的相邻序列中，只有运动物体有少许变化，仅存储差异部分即可，这称为时间冗余。此外还有结构冗余、视觉冗余等，这就为数据压缩提供了条件