限失真信源编码.pptVIP

第5章 限失真信源编码 连续信源的熵和互信息 信息率失真理论 标量量化编码、矢量量化编码(有兴趣自学) 语音压缩编码、图像压缩编码(有兴趣自学) 课后作业(p.110-111): 4-2, 4-4 完 连续信源的熵和互信息 随机波形信源、连续平稳信源、连续信源 连续信源的数学模型 连续信源的熵、联合熵和条件熵 单符号连续信道模型 连续信道的平均互信息量 单符号连续信道的信息传输率 随机波形信源 有些信源的输出是时间连续的消息 语音信号、电视信号等都是时间的连续波形 在某一固定时刻，这些信号的可能取值也是连续的，这样的信源称为随机波形信源 随机波形信源是可以用随机过程来描述其输出消息的信源 连续平稳信源 若信源输出用平稳连续型随机序列来描述，则此信源称为连续平稳信源 连续平稳信源也可分为连续平稳无记忆信源和连续平稳有记忆信源 平稳连续型随机序列中每个自由度上的变量是连续随机变量 连续信源 用连续随机变量描述输出的信源称为连续信源 连续信源的数学模型 连续信源基本的数学模型为 R是全实数集，是连续变量x的取值范围 p(x)为x的概率密度 连续信源的熵 连续信源的熵定义为 连续信源的熵并不是实际信源输出的绝对熵 连续信源的绝对熵应该再加上一项无限大的常数 连续信源的可能取值有无限多个，若取值是等概率分布的，那么信源不确定性为无限大 h(X)不能代表信源的平均不确定性大小，