信息论与编码课件第六章.pptVIP

第六章 限失真信源编码 作业 6.1、6.2（不求R(D)） （1）在理论上无失真无法解决 例：连续信源，输出的消息要用无穷多比特数描述才能无失真再现消息，而信道的带宽有限，所以，无法解决不失真问题。 （2）在许多实际系统中失真是一定存在的 例：普通电话，数码率 64 Kbit/s ，要求高，则增加传输与处理数据的复杂性，为此进行压缩，产生失真。 （3）在实际应用中，一定程度的失真是允许的 云海（2M） 云海（223K） 云海（30K） 云海（3K） 失真存在并不影响实际的信息传输，在允许 的失真限度下，可以对信源输出的信息进行压缩， 结果并不影响近似再现信源输出的信息。 问题：在允许的失真限度下，对信源输出的 信息进行压缩到什么程度，才能不影响近似再现 信源输出的信息？ 信源无失真编码——冗余度压缩，保熵 信源限失真编码——熵压缩 熵压缩的下限值——压缩不低于该值，即保证在允许失真下可以近似再现信源的信息。 下限值＝？ 率失真函数的定义 率失真函数的定义 序列的失真函数： 序列的失真度等于序列中对应的单符号的失真度之和。 平均失真： 对单个符号的平均失真： 当信源是独立同分布，信道是无记忆时，即 可以验证 率失真函数R(D)的定义 率失真函数R(D)与信道容量C 率失真函数