第三章-无失真信源编码(1-1).pptVIP

* * * 第三章 无失真信源编码 适用于离散信源或数字信号 适用于连续信源或模拟信号 信源编码的分类? 为什么要对信源进行编码? 由于信源符号之间存在相关性和分布不均匀，使得信源存在冗余度。 （1）信源输出符号间的依赖关系使得信源熵减小，这就是信源的相关性。相关程度越大，信源的实际熵越小，越趋近于极限熵 ；反之，相关程度减小，信源实际熵增大。 （2）实际信源的符号分布概率不是均匀的，这使得实际的信源熵总是小于最大熵 。 也就是说，实际发送的消息总是包含有无用的信息。信源包含有冗余。 信源无失真编码的主要任务就是减少冗余，提高编码效率。 具体说，就是针对信源输出符号序列的统计特性， 寻找一定的方法把信源输出符号序列变换为最短的码字序列。 信源编码的基本途径 是什么? 信源编码的基本途径有两个，一是使序列中的各个符号尽可能地互相独立，即解除相关性；二是使编码中各个符号出现的概率尽可能地相等，即概率均匀化。 信源编码的基础是什么? 信源编码的基础是：两个编码定理，即无失真编码定理和限失真编码定理。 1）无失真编码是可逆编码，即信源符号转换成代码后，可从代码 无失真的恢复原信源符号。只适用于离散信源。 2）对于连续信源，编成代码后就无法无失真地恢复原来的连续值，