南京工程学院通信工程学院信息论与编码课件第4章 信息率失真函数.ppt

4.2 离散信源和连续信源的R(D)计算 求信源的R(D)函数，原则上与求信道容量一样，约束条件下求极值 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 4.2 离散信源和连续信源的R(D)计算 某些特殊情况下R（D）的表示式为： （1）当d(x,y)=(x-y)2， 时， 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * (2)当d(x,y)=|x-y|， 时， 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * (3)当d(x,y)=?(x,y)，p(x=0)=p，p(x=1)=1-p时， R(D)=H(p)－H(D) 这些R（D）可画成三条曲线 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 0 Dmax D R(D) H (3) (1) (2) 图4-5 信息率失真函数R(D) 例4-2-1 设输入输出符号表为X＝Y?{0，1}，输入概率分布p(x)=(p，1-p)，0p?1/2，失真矩阵为 求信息率失真函数R(D)。 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 0.1 0.2 0.3 0.4 0.5 D 1.0 0.8 0.6 0.4 0.2 0.0 R(D)/bit p=0.5 p=0.3 p=0.2 p=0.1 图4－6 R(D)=H(p)－H(D)，p为参数 本章小结 失真函数 平均失真 信息率失真函数R(D)的定义 R(D)的性质 定义域 值域 下凸性 连续性 单调性 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 第4章　信息率失真函数 本章主要讨论在信源允许一定失真情况下所需的最少信息率，从分析失真函数、平均失真出发，求出信息率失真函数R(D) 主要内容 4.1 平均失真和信息率失真函数 4.2 离散信源和连续信源的R(D)的计算 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 4.1 平均失真和信息率失真函数 4.1.1 失真函数 4.1.2 平均失真 4.1.3 信息率失真函数R(D) 4.1.4 信息率失真函数的性质 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 4.1.1 失真函数 假如某一信源X，输出样值为xi，xi?{a1,…an}，经过有失真的信源编码器，输出Y，样值为yj，yj ?{b1,…bm}。如果xi＝yj，则认为没有失真；如果xi ? yj，那么就产生了失真。失真的大小，用一个量来表示，即失真函数d(xi，yj)，以衡量用yj代替xi所引起的失真程度。一般失真函数定义为 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 失真矩阵 单个符号的失真度的全体构成的矩阵 ，称为失真矩阵 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * Example 设信源符号序列为X=[0,1]，接收端受到符号序列为Y=[0,1,2]，如前面介绍的二元删除信道，规定失真函数为： 其失真矩阵为 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 最常用的失真函数 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 均方失真：? 相对失真： 误码失真： 绝对失真： 前三种失真函数适用于连续信源，后一种适用于离散信源。 序列失真函数 推广到序列编码 如果假定离散信源输出符号序列X=(X1X2…Xl…XL)，其中L长符号序列样值xi＝(xi1xi2…xil…xiL)，经信源编码后，输出符号序列Y=(Y 1Y 2…Y l…Y L)，其中L长符号序列样值yj＝(yj1yj2…yjl…yjL)，则失真函数定义为： ? 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 其中d(xil，yjl)是信源输出L长符号样值xi中的第l个符号xil时，编码输出L长符号样值yj中的第l个符号yjl的失真函数。 平均失真 xi和yj都是随机变量，失真函