信息论第四专题.ppt

7.1 失真度和平均失真度 7.2 信息率失真函数及其性质 *7.3信息率失真函数的参量表述及其计算 7.4二元信源和离散对称信源的R(D)函数 *7.5 连续信源的信息率失真函数 7.6保真度准则下的信源编码定理 7.7联合有失真信源信道编码定理 7.8限失真信源编码定理的实用意义 8.1香农编码 8.2费诺编码 8.3霍夫曼编码 8.4实用的编码方法 信源编码的基本途径有两个: 一是编码后使序列中的各个符号之间尽可能地 互相独立，即解除相关性----方法包括预测编 码和变换编码. 二是使编码后各个符号出现的概率尽可能相等，即均匀化分布----方法主要是统计编码. 由于信源编码可以不考虑抗干扰问题，所以它的数学模型比较简单。下图为一个编码器模型: 输入是信源符号集: x为编码器所用的编码符号集，包含r个元素{ }，称为码符号(码元) . 由码符号 组成的输出序列 称为码字. 其长度 称为码字长度或码长，全体码字 的集合C称为码或码书 . 编码器将信源符号集中的信源符号 （或长为N的信源符号序列 ）变成由码符号组成的长为 的与信源符号一一对应的输出序列。即 : 解决方法： 考察：字母个数为n，字母出现非等概，且字母之间相关长度为L的英文信源，其可能的字母序列总数为