1-4 数据压缩与信源编码定理.pdf

信源编码 无失真信源编码 限失真信源编码 信源编码 也就是压缩编码，是利用减少冗余的方法来实现对消息序列 的压缩，从而在信宿端可接受的情况下，减少需要传输的信息 量，从而提高传输效率。 例题 某门课程的学生成绩分布如下，求每个成绩等级代表符号A, B, C, D, F所包含的信息量。 A B C D F 25% 50% 12.5% 10% 2.5% 解： 符号 概率p 自信息 log(1/p) 该符号对总的信息 量的贡献 plog(1/p) A 0.25 2 比特 0.5 比特 B