4.1平均失真与信息率失真函数4.2离散信源与连续信源的R.pptVIP

4.1 平均失真和信息率失真函数 4.2 离散信源和连续信源的R(D)计算 4.1.1 失真函数 4.1.2 平均失真 4.1.3 信息率失真函数R(D) 4.1.4 信息率失真函数的性质 “消息完全无失真传送”的可实现性 信道编码定理：无论何种信道，只要信息率R小于信道容量C，总能找到一种编码，使在信道上能以任意小的错误概率和任意接近于C的传输率来传送信息。反之，若RC，则传输总要失真。 实际中允许一定程度的失真 实际生活中，人们一般并不要求获得完全无失真的消息，通常只要求近似地再现原始消息，即允许一定的失真存在。 例如打电话：即使语音信号有一些失真，接电话的人也能听懂。人耳接收信号的带宽和分辨率是有限的。 放电影：理论上需要无穷多幅静态画面，由于人眼的“视觉暂留性”，实际上只要每秒放映24幅静态画面。 随着科学技术的发展，数字系统应用得越来越广泛，这就需要传送、存储和处理大量的数据。为了提高传输和处理效率，往往需要对数据压缩，这样也会带来一定的信息损失。 问题：在允许一定程度的失真条件下，信源信息能够压缩到何种程度？至少需要多少比特的信息率才能描述信源？ 定义失真函数： 失真矩阵 失真度还可表示成矩阵的形式 称d 为失真矩阵。它是n×m阶矩阵。 如例题：4－1 信源符号X取自{0，1},编码器输出符号取自{0,1,2}, 规定失真函数为： d