2020信息论第7章北理工.pptVIP

的方程 个关于 解得 ）式得 整理（ 令 为了求解方便 ) / ( log ) , ( ) ( log ) / ( log . ) ( log , i j i j i j i j i i i u v p s r v u Sd v p u v p p ? ? ? ? ? ? 0 42 7 u ? ? ? s j r i e v p u v p j i v u Sd i j i j , , ; , , , ) . ( ) ( ) / ( ) , ( ? ? 2 1 2 1 44 7 ? ? ? ? 第一步：求 λ i : ) ( ) / ( ) . ( ) , ( i j v u Sd i j j i j j i e v p u v p j ? ? 由上式解出 求和得 两边对 式 ? ? ? ? 1 44 7 ) . ( ) ( ) , ( 45 7 1 ? ? j v u Sd j i j i e v p ? 第二步：求 p ( v j ) 第三步：求 p ( v j / u i ) 将解出的λ i 和 p ( v j ) 代入式 (7.45) ，可求得 r · s 个以 S 为参量的 p ( v j / u i ) 。 。 为参量的 由此解出以 的联立方程 个关于 代入上式得到 将解出的 ) ( ) . ( ) , , , ( ) ( ) ( ) ( ) , ( ) , ( j r i s k v u Sd k v u Sd i j i v p S s j e v p e u p v p s j i j i 47 7 2 1 1 1 1 ? ? ? ? ? ? ? ? 第四步：求 D ( S ) 将这 r · s 个 p ( v j / u i ) 代入 (7.39) 得到以 S 为参量 的允许平均失真函数 D ( S ) 。 ) . ( ) , ( ) ( ) ( ) ( ) , ( 49 7 1 1 j i y x Sd i r i s j j i j i e v u d v p u p S D ? ?? ? ? ? 第五步：求 R ( S ) 将这 r · s 个 p ( v j / u i ) 代入 (7.36) 得到以 S 为参量的率 失真函数 R ( S ) 。 ) . ( log ) ( ) ( ) ( ) / ( log ) ( ) ( log ) ( ) ( ) ( ) ( ) ( log ) ( ) ( ) ( ) , ( ) , ( ) , ( 50 7 1 1 1 1 1 1 1 i r i i s j i j i r i i i v u Sd i r i s j j i j v u Sd i j v u Sd i r i s j j i u p S SD S R u v p u p S SD e v p u p S SD v p e v p e v p u p S R j i j i j i ? ? ? ? ? ? ? ? ? ?? ?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 第六步： 选择使 p ( v j ) 非负的所有 S ，得到 D 和 R 值，可以 画出 R ( D ) 曲线，如下图所示。 (3) 参量 S 的说明 ? 可以证明 S 就是 R ( D ) 函 数的斜率 ? 斜率 S 必然负值； S 是 D 的递增函数， D 从 0 变 到 D max ， S 将逐渐增加； ? 当 D =0 时 ( R ( D ) 的斜率 ) ： S 的最小值趋于负无穷。 S dD dR ? ? 当 D = D max 时： S 达到 最大；这个最大值也 是某一个负值，最大 是 0 。 ? 当 D D max 时：在 D = D max 处，除某些特 例外， S 将从某一个负 值跳到 0 ， S 在此点不 连续。在 D 的定义域 [0, D max ] 内，除某些特例 外， S 将是 D 的连续函 数。 1 、连续信源的信息率失真函数的参量表达式 2 、高斯信源的信息率失真函数 7.6 连续信源的信息率失真函数 ? 条件 ? 信源 X ∈ R =( －∞,∞) ? 信源 X 的概率密度函数为 p ( x ) ? 信道的传递概率密度函数为 p ( y / x ) ? 信宿 Y ∈ R =( －∞,∞) ? 信宿 Y 的概率密度函数为 p ( y ) ? X 和 Y 之间的失真度 d ( x , y )≥0 1 、连续信源的信息率失真函数的参量表达式 ? 一般来说 ? ? ? ? ? ? ) , ( ) / ( ) , ( ) / ( ) , ( ) / ( min ) ( ) , ( ) / ( ) , ( ) / ( ) , ( ) / ( min ) ( ) , ( ) /