第四章：信息率失真函数.pptVIP

R(D)对允许平均失真度的下凸性第29页，共71页，星期日，2025年，2月5日R(D)对允许平均失真度的下凸性定义新试验信道：第30页，共71页，星期日，2025年，2月5日R(D)对允许平均失真度的下凸性由I(X;Y)对p(yj/xi)的下凸性：第31页，共71页，星期日，2025年，2月5日率失真函数的单调递减和连续性DH(x)R(D)第32页，共71页，星期日，2025年，2月5日信息率失真函数4.1基本概念4.2离散信源的信息率失真函数4.3连续信源的信息率失真函数4.4保真度准则下的信源编码定理第33页，共71页，星期日，2025年，2月5日离散信源的信息率失真函数二元信源的R(D)函数等概率离散信源的R(D)函数第34页，共71页，星期日，2025年，2月5日二元信源的R(D)函数二元信源信宿。失真矩阵为：第35页，共71页，星期日，2025年，2月5日二元信源的R(D)函数(1)求，：满足该最小失真的试验信道的信道矩阵为：第36页，共71页，星期日，2025年，2月5日二元信源的R(D)函数(2)求，：达到最大允许失真度的试验信道为：第37页，共71页，星期日，2025年，2月5日二元信源的R(D)函数选取任一信道使(3)求一般情况下时的，平均互信息为：第38页，共71页，星期日，2025年，2月5日二元信源的R(D)函数为此，必须找到一个试验信道，使根据费诺不等式，当n=2时有：所以：且第39页，共71页，星期日，2025年，2月5日二元信源的R(D)函数引进一个“反向”的试验信道：计算可以得到：即所设的反向试验信道是存在的。第40页，共71页，星期日，2025年，2月5日二元信源的R(D)函数在所设试验信道的条件下：第41页，共71页，星期日，2025年，2月5日二元信源的R(D)函数在该试验信道中：即所选择的试验信道正是满足，而平均互信息达到最小值的信道。综上所述，在汉明失真测度下二元信源的R(D)为：第42页，共71页，星期日，2025年，2月5日离散信源的信息率失真函数二元信源的R(D)函数等概率离散信源的R(D)函数第43页，共71页，星期日，2025年，2月5日等概率离散信源的R(D)函数信源，信宿失真函数为汉明失真函数，即：第44页，共71页，星期日，2025年，2月5日等概率离散信源的R(D)函数经过计算，可以得到：R(D)的定义域为：第45页，共71页，星期日，2025年，2月5日等概率离散信源的R(D)函数选取任一信道使，平均互信息为：为此，必须找到一个试验信道，使根据费诺不等式有：所以：且第46页，共71页，星期日，2025年，2月5日等概率离散信源的R(D)函数引进一个“反向”的试验信道：计算可以得到：即所设的反向试验信道是存在的。第47页，共71页，星期日，2025年，2月5日等概率离散信源的R(D)函数在所设试验信道的条件下：第48页，共71页，星期日，2025年，2月5日等概率离散信源的R(D)函数在该试验信道中：即所选择的试验信道正是满足，而平均互信息达到最小值的信道。综上所述，在汉明失真测度下n元对称信源的R(D)为：第49页，共71页，星期日，2025年，2月5日信息率失真函数4.1基本概念4.2离散信源的信息率失真函数4.3连续信源的信息率失真函数4.4保真度准则下的信源编码定理第50页，共71页，星期日，2025年，2月5日第1页，共71页，星期日，2025年，2月5日信息率失真理论连续信源的信息量无限大，不可能无失真地传送连续信源的信息。现实生活中允许一定的失真存在。信息率失真理论主要研究信息率与允许失真之间的关系。连续信源的率失真理论是连续信源量化、压缩的理论基础。第2页，共71页，星期日，2025年，2月5日I(X;Y)性质回顾I(X;Y)是p(x)和p(y/x)的二元函数I(X;Y)是p(x)的上凸函数I(X;Y)是p(y/x)的下凸函数第3页，共71页，星期日，2025年，2月5日信息率失真函数4.1基本概念4.2离散信源的信息率失真函数4.3连续信源的信息率失真函数4.4保真度准则下的信源编码定理第4页，共71页，星期日，2025年，2月5日4.1基本概念失真函数与平均失真度信息率失真函数的定义信息率失真函数的性质信息率失真函数第5页，共71页，星期日，2025