第8章_信息率失真理论及其应用.pdf

“信息论与编码”课件 第八章 信息率失真理论及其应用 东南大学移动通信国家重点实验室 1 “信息论与编码”课件 本章内容提要 失真函数和平均失真度 信息率失真函数 信息率失真函数R(D) 的计算 保真度准则下的信源编码定理 信息率失真函数与信息价值 东南大学移动通信国家重点实验室 2 “信息论与编码”课件 第8章 信息率失真理论及其应用 • 在前面几章的讨论中，其基本出发点都是如何保证信 息的无失真传输。 • 但在许多实际应用中，人们并不要求完全无失真地恢 复消息，而是只要满足一定的条件，近似地恢复信源 发出的消息就可以了。 • 然而，什么是允许的失真？如何对失真进行描述？信 源输出信息率被压缩的最大程度是多少？信息率失真 理论回答了这些问题，其中香农的限失真编码定理定 量地描述了失真，研究了信息率与失真的关系，论述 了在限失真范围内的信源编码问题，已成为量化、数 据转换、频带压缩和数据压缩等现代通信技术的理论 基础。 东南大学移动通信国家重点实验室 3 “信息论与编码”课件 8.1 失真函数和平均失真度 8.1.1 失真函数 定义8.1 对于图8.1所示的系统，对应于每一对（a , b ） i j （n = 1, 2, …r ；j =1, 2, …, s ），定义一个非负实值函数 d (a ,b ) 0 (i 1,2,r; j 1,2,s) （8.1 ） i j 表示信源发出符号a 而经信道传输后再现成信道输出符 i 号集合中的b 所引起的误差或失真，称之为a 和b 之间的 j i j 失真函数。 a1 b1 a2 b2 P(Y/X) ┇X Y ┇ ar bs 图8.1 消息通过信道的传输 东南大学移动通信国家重点实验室 4 “信息论与编码”课件 8.1 失真函数和平均失真度 8.1.1 失真函数  失真函数的值可人为地规定。 例如，若i=j 时，b ＝a ；i j 时，b ＝a a ，则可规定