MPEG 教程04.pptVIP

多媒体技术 第3讲 主要内容 数据压缩概述 经典数据压缩理论 香农－范诺与霍夫曼编码 算术编码 行程编码 词典编码 预测编码 变换编码 分析综合编码 经典数据压缩理论 信息论中的信源编码理论解决的主要问题： （1）数据压缩的理论极限 （2）数据压缩的基本途径 信源 信源被抽象为一个随机变量序列（随机过程）。 如果信源输出的随机变量取值于某一连续区间，就叫做连续信源。比如语音信号X(t)。 如果信源输出的随机变量取值于某一离散符号集合，就叫做离散信源。比如平面图像X(x，y)和电报。 离散信源 如果随机序列中各个变量具有相同的概率分布，则称为离散平稳信源。 如果离散平稳信源的输出序列中各个变量是相互独立的，即前一个符号的出现不影响以后任何一个符号出现的概率，则称为离散无记忆平稳信源，否则称为离散有记忆平稳信源。 信息量和熵 仙农信息论把一个事件（字符a1）所携带的信息量定义为： I(a1) = log2 (1/p) = -log2 p (bit) 其中p为事件发生（字符出现）的概率 I(a1)即随机变量X取值为a1时所携带的信息量 因为X的信息量也是一个随机变量，所以我们要研究它的统计特性。其数学期望为： 称H(X)为一阶信息熵或者简称为熵(Entropy) 熵（Entropy） 在符号出现之前，熵表示符号集中的符号出现的平均不确定性；在符号出