《信息论》(电子科大)第七章 信息率失真理论new.pptVIP

当α=1时， R(D) S(D) D 0.5 0.25 p=0.25 p=0.5 0 当p=0.5，即二元等概率信源时的信息率失真函数 6、等概率信源的信息率失真函数 n元等概率信源，其信息率失真函数 当α=1时， 例2、二元信源的概率分布 求该信源的信息率失真函数R(D)及允许失真度D的取值范围，并求D=1/8时的R(D)值。 失真矩阵 解： 当D=1/8时， 例3、三元等概率信源的失真矩阵 求该信源的信息率失真函数R(D)及允许失真度D的取值范围，并求D =1/3时的R(D)值。 解： 当D=1/3时， 习题：4.1、4.11 二、连续信源的信息率失真函数 定义随机变量X、Y之间的失真函数为非负函数d(x,y)，则平均失真度 记实验信道的集合 定义信息率失真函数 可以证明 同样可以证明 1、信息率失真函数的参量表达式 取失真函数为 为讨论方便，可取m=0。 则平均失真度 2、高斯信源的信息率失真函数 根据限平均功率的最大熵定理，Y=y条件下的条件熵 信道疑义度 根据詹森(Jensen)不等式 在满足保真度准则 的条件下 问题是能否找到实验信道，使 考虑反向加性信道 X=Y+N Y N 对于Y和N相互独立的高斯反向加性信道，可以证明p(x/y)=p(n) ，从而 并设噪声N是均值为0，方差为D的高斯变量。 说明高斯反向加性信道是实验信道。 R(D) D