第三章 信源编码-离散信源无失真编码.ppt

第三章 信源编码-离散信源无失真编码 童 胜 ts_xd@163.com 2012年5月 通信系统的两个基本问题 问题一：数据压缩的理论极限是什么。 问题二：通信传输速率的理论极限是什么。 通信系统模型 主题 问题一（理论）：如何度量信源产生信息的速率？信源编码定理。 问题二（实际）：如何将信源的输出有效地进行表示？即信源压缩的具体实现技术。 信源编码-离散信源无失真编码 3.1 信源及其分类 3.2 离散无记忆信源的等长编码 3.3 离散无记忆信源的不等长编码 3.4 最佳不等长编码 3.5 平稳源编码* 3.6 马尔科夫源* 信源编码 信源编码：对信源输出符号/序列按一定的规则映射成码字的过程。 信源编码的目的和分类 1. 为什么要进行信源编码呢？ 2. 无失真编码和有失真编码 ：感觉无失真编码应该优于有失真编码，那么为什么还要引入有失真编码呢？ 信源码的分类 等长码：码中所有码字的码长都相同 接收端只要能正确识别出一个码字的起始位就能正确译码。 变长码：不同码字，其长度可以不一样 唯一可译性?唯一可译码，文言文断句 译码实时性?即时码 为了和匀速输出的信源匹配，需要考虑缓存 第1节 信源及其分类 信源 信源：产生消息的地方；信源的输出称为消息；信息承载在消息上。 在某一特定时刻，信源的输出可以是多种多样的消息。我们可以将消息建模为一个随机变量。 在某一段