信息论与编码课件第5章资料.ppt

5、分组码（等长码、变长码、奇异码、非奇异码） -等长码：码中所有码字的长度都相同 码0，码1，码2 -变长码：码中的码字长短不一 码3，码4 -非奇异码：信源符号与码字是一一对应的，码0 -奇异码：反之不是一一对应，码1 定长编码定理 上述定理表明: 平均每个码字携带的信息量大于信源符号熵 ；或者所有码字所能携带的信息量大于信源熵 ,则可以使传输几乎无失真,当然条件是L足够大。 反之,当 时,不可能构成无失真的编码,也就是不可能做一种编码器,能使收端译码时差错概率趋于零。 时,则为临界状态,可能无失真,也可能有失真。 定长编码定理 6、定长无失真编码序列长度L： 对定长编码,若要实现几乎无失真编码,则信源序列长度必须满足: 信源编码 第5章 5.1 编码的定义 5.2 无失真信源编码 5.3 限失真信源编码 5.4 常用信源编码方法简介 内容 * 5.1 编码的定义 * 信源编码： 无失真信源编码—第一极限定理 限失真信源编码—第三极限定理 信道编码 第二极限定理 1）信源编码 在不失真或允许一定失真条件下,如何用尽可能少的符号来传送信源信息,以便提高信息传输率 2）信道编码 在信道受干扰的情况下如何增加信号的