4信息率失真函数-2.pdfVIP

基础信息论 电子信息与通信学院涂来 email: tulai@hust.edu.cn 南一楼 东南角5楼 第4章信息率失真函数 第4章信息率失真函数 • 4.1 基本概念 • 4.2 离散信源的信息率失真函数 • 4.3 连续信源的信息率失真函数 • 4.4 保真度准则下的信源编码定理 3 第4章信息率失真函数 • 4.1 基本概念 • 4.1.1 引言 • 4.1.2 失真函数与平均失真度 • 4.1.3 信息率失真函数 • 4.1.4 信息率失真函数的性质 • 4.2 离散信源的信息率失真函数 • 4.3 连续信源的信息率失真函数 4 信息率失真函数的性质 • 信息率失真函数R(D)是D 的函数 R • 问题：R 随D 的变化规律是怎样的？ ？ 1. D的有效取值范围是多少？ D Dmin Dmax 2. R(D)是关于D的形态是上凸还是下凸， 回答：率失真函数性质 还是其他？ • R(D)的定义域(0,Dmax) 3. R(D)在区间是递增还是递减 ，或是波 • R(D)是关于D的下凸函数 动？ • R(D)在区间(0,Dmax)上 是严格递减函数 5 什么是率失真函数的定义域？ • 率失真函数中的自变量：允许平均失真度D ，也就是平均 D 失真度 的上限值。 • 率失真函数的定义域问题： • 就是在信源和失真函数已知的情况下，讨论允许平均失真 度D 的最小和最大值问题。 • D 的选取必须根据固定信源X的统计特性P(X)和选定的失 真函数d(x , y ) ，在平均失真度的可能取值范围内。 i j 6 信源最小平均失真度Dmin • 分析 D • 平均失真度 是失真函数 d ( x, y)的数学期望 而失真函数非负 d ( x, y) ≥0，故有 D ≥0 • 因此允许平均失真度D 的下限为： D min 0 这表示不允许有任何失真。 • 问题：D能否达到其下限值0 ？？ • 回答 ：与单个符号的失真函数有关。 7 寻找最小平均失真度Dmin • 方法：在失真矩阵的每一行找出一个最小的d(x , y ) ，各 i j 行的最小d(x , y ) 值都不同。对所有这些最小值求数学期望， i