第三章：信源、熵率及冗余度资料.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 1、 * * 冗余度－5 首先求得独立等概率情况H0 ，即 其次，计算独立不等概率情况H1 ， 再次，若仅考虑字母有一维相关性，求H2 ， 最后实际熵H∞，利用统计推断方法求出。由于采用的逼近的方法和所取的样本的不同，推算值也有不同，这里采用Shannon的推断值。 冗余度－6 这一结论说明，英文信源，从理论上看71％是多余成分。 直观地说100页英文书，理论上看仅有29页是有效的，其余71页是多余的。正是由于这一多余量的存在，才有可能对英文信源进行压缩编码。 冗余度－7 对于其它文字，也有不少人作了大量的统计工作，简述如下： ? 英文 法文 德文 西班牙文 中文 （按8千汉字计算） 问题五 如何有效表示信源输出信号？ 编码－1 编码： 源字母序列 编码器 码字母序列 源字母表 码字母表 源序列 映射 码序列 编码－2 编码分类 信源编码－1 针对信源的编码，能更加有效地传输、存储信息。 目的：提高通信系统有效性，实现信源与通信系统间的统计匹配。编码后尽可能减少所需信息