[2018年最新整理]信息论与编码第5章.pptVIP

信源编码 ;5.1 编码的定义 5.2 无失真信源编码 5.3 限失真信源编码 5.4 常用信源编码方法简介;5.1 编码的定义;信源编码： 无失真信源编码—第一极限定理 离散信源 限失真信源编码—第三极限定理 连续信源 信道编码 第二极限定理 信源编码 在不失真或允许一定失真条件下,如何用尽可能少的符号来传送信源信息,以便提高信息传输率 信道编码 在信道受干扰的情况下如何增加信号的抗干扰能力,同时又使得信息传输率最大。;编码的定义;编码的定义;编码的定义;编码的定义;编码的定义;编码的定义;码树 表示各码字的构成 ;码4;1;编码的定义;例：设二进制码树中X=(a1 , a2 , a3 , a4), K1=1,K2=2,K3=2,K4=3,应用Kraft不等式,得： ;编码的定义;5.2 无失真信源编码;无失真信源编码;无失真信源编码;5.2.1 定长编码定理;定长编码;定长编码;定长编码定理;定长编码定理;⑵将定理的条件改写成 其中：左边：KL长码字所能携带的最大信息， 右边：L长信源序列携带的信息量。;定长编码定理;例5-2设离散无记忆信源概率空间;5.2.2 变长编码定理;变长编码定理;变长编码定理;;变长编码定理;由;例5-3设离散无记忆信源概率空间;再对长度为L =2的信源序列进行变长编码,其即时码如表;将信源序列的长度增加,L＝3或L=4,对这些信源序列X进行编码,并求出其编码效率为;习题