5_第5章信息论课件.pptVIP

*;西北大学信息学院;西北大学信息学院;*;西北大学信息学院;西北大学信息学院;西北大学信息学院;通信技术中有哪三大类编码？ 信源编码：以提高通信有效性为目的的编码。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。即同样多的信息用较少的码率传送，使单位时间内传送的平均信息量增加，从而提高通信的有效性。 信道编码：是以提高信息传输的可靠性为目的的编码。通常通过增加信源的冗余度来实现。采用的一般方法是增大码率/带宽。与信源编码正好相反。 加密编码：是以提高通信系统的安全性为目的的编码。通常通过加密和解密来实现。从信息论的观点出发，“加密”可视为增熵的过程，“解密”可视为减熵的过程。;西北大学信息学院;信源编码理论是信息论的一个重要分支，其理论基础是信源编码的两个定理。 无失真信源编码定理：是离散信源/数字信号编码的基础； 限失真信源编码定理：是连续信源/模拟信号编码的基础。 信源编码的分类：离散信源编码、连续信源编码和相关信源编码三类。 离散信源编码：独立信源编码，可做到无失真编码； 连续信源编码：独立信源编码，只能做到限失真信源编码； 相关信源编码：非独立信源编码。;西北大学信息学院;西北大学信息学院;*;西北大学信息学院;西北大学信息学院;西北大学信息学院;信源编码有定长和变长两种方法。 定长编码：码字长度K是固定的，相应的编码定理称为定长信源编码定理，是寻求最小K值的编码方法。 变长编码：K是变值，相应的编码定理称为变长编码定理。这里的K值最小意味着数学期望最小。 ;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;我们可根据信源各个符号的统计特性,如概率大的符号用短码,概率小的用较长的码,这样在大量信源符号编成码后平均每个信源符号所需的输出符号数就可以降低,从而提高编码效率。 ;;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;西北大学信息学院;作业