电子科大信息论与编码第8章 信息率失真理论.pdfVIP

第8章 信息率失真理论 一般通信系统允许一定的失真存在。 根据信息率失真理论，由无失真信源编 码改为限失真信源编码，从而降低限失 真信源编码对信息传输率的要求。 需要研究的问题是： 对于给定的允许失真，用什么来描述限 失真信源编码信息传输率的下限？ 一、离散信源的信息率失真函数 由信息传输率R=I(X;Y) 的凸函数性： 信源固定时，信息传输率是信道转移概率 分布的下凸函数。 因此，总能找到一种信道转移概率分布， 使信息传输率最小。 当信道转移概率分布p(y /x )=p(y ) 时，信息 j i j 传输率R=0 ，显然，这个下限无意义。 1、平均失真度 (1) 失真度 设单符号信源为 ⎡ X ⎤ ⎧ x1 x2 L xn ⎫ ⎢ ⎥ ⎨ ⎬ ⎣P(X)⎦ p(x ) p(x ) L p(x ) ⎩ 1 2 n ⎭ 该符号经信道传输后对应一个m元信宿。 定义非负函数d(x ,y ) 为失真度。 i j i=1,2, …,n ；j=1,2, …,m 。 称全部n ×m个失真度组成的矩阵为失真 矩阵： ⎡d(x , y ) d(x , y ) ... d(x , y )⎤ 1 1 1 2 1 m ⎢ ⎥ d(x , y ) d(x , y ) ... d(x , y ) [D] ⎢ 2 1 2 2 2 m ⎥ ⎢ ... ... ... ... ⎥ ⎢ ⎥ d(x , y ) d(x , y ) ... d(x , y ) ⎣ n 1 n 2 n m ⎦ 常用的失真度有： ⎧0 xi y j d(x , y ) ⎨ i j , 0, x y α α ≠ ⎩ i j 相应的失真矩阵 ⎡0 α ... α⎤ ⎢ ⎥ [D ] ⎢α 0 ... α ⎥ ⎢... ... ... ... ⎥ ⎢ ⎥