第4章信息论和编码.pptVIP

信息率失真函数 第4章 4.1 平均失真和信息率失真函数 4.2 离散信源和连续信源的R(D)计算 失真 信道编码定理——欲无失真，必 R C 若 R C，必失真 失真必要性—— 连续信源R趋向于无穷大，必有失真 压缩亦有失真 失真可能性——终端性能有限，如人眼,人耳 研究：信息率～允许失真——信息率失真理论 4.1.1 失真函数 假如某一信源X,输出样值xi , xi∈{a1,a2,…an},经信道传输后变成yj , yj ∈{b1, b2,…bm},如果: xi ＝ yj 没有失真 xi ≠ yj 产生失真 失真的大小,用一个量来表示,即失真函数d(xi,yj),以衡量用yj代替xi所引起的失真程度。 失真函数定义为： 失真函数 将所有的d(xi,yj)排列起来,用矩阵表示为: 失真函数 汉明失真矩阵 4.1.2 平均失真 将失真函数的数学期望称为平均失真： ? 对于连续随机变量同样可以定义平均失真 L长序列编码 如果假定离散信源输出符号序列X＝{X1X2… Xl… XL},其中L长符号序列xi =[xi1xi2…xiL],经信源编码后,输出符号序列Y={Y1Y2…Yl…YL},其中