北邮-通信原理-第七章-信源与信源编码II.pptVIP

7.7 信息率失真R(D)函数 允许失真D和试验信道集合PD 人们对信息传输的失真有要求，这个要求就是允许失真D 当信源确定（P(X)已知），允许失真度D也给定时，选择信道使平均失真小于允许失真。凡满足要求的信道称为D失真许可的试验信道，简称试验信道，所有试验信道的集合就是PD 7.7 信息率失真R(D)函数 互信息I(X;Y)的性质 性质1：互信息I(X;Y)是先验概率P(X)的上凸函数，研究信道容量时用到 性质2：互信息I(X;Y)是信道转移概率概率P(Y|X)的下凸函数，研究信息率失真函数时用到 7.7 信息率失真R(D)函数 信息率失真函数R(D) 在信源和允许失真给定以后，PD是满足允许失真的试验信道集合，平均互信息I(X;Y)是信道传递概率p(yj|xi)的下凸函数，所以在PD中一定可以找到某个试验信道，使I(X;Y)达到最小，即 这个最小值R(D)称为信息率失真函数，简称率失真函数 7.7 信息率失真R(D)函数 信息率失真函数R(D)的性质 可以证明：R(D)是关于允许失真D的单调递减的下凸函数 7.7 信息率失真R(D)函数 信息率失真函数的物理意义 信息率失真函数是在满足保真度条件下，信宿必须获得的平均信息量的最小值，是信源必须输出的最小信息率 信息传输速率本质上是描述信源特性的，因此R(D) 也应该是仅仅用于描述信源 若信源消息经无失真编码后的信息传