信源编码-北邮信息论课件.pdf

信源编码信源编码 贺志强贺志强 信源编码：信源编码：将信源符号序列按一定的数学规律映射将信源符号序列按一定的数学规律映射 成由码符号组成的码序列的过程成由码符号组成的码序列的过程成由码符号组成的码序列的过程成由码符号组成的码序列的过程。。 信源译码信源译码信源译码信源译码：：根据码序列恢复信源序列的过程根据码序列恢复信源序列的过程根据码序列恢复信源序列的过程根据码序列恢复信源序列的过程。。 无失真信源编码：无失真信源编码：即信源符号可以通过编码序列即信源符号可以通过编码序列 无差错地恢复无差错地恢复无差错地恢复无差错地恢复。。 （适用于离散信源的编码）（适用于离散信源的编码） 限失真信源编码：限失真信源编码：信源符号不能通过编码序列无信源符号不能通过编码序列无 差错地恢复差错地恢复差错地恢复差错地恢复。。 （可以把差错限制在某一个限度内）（可以把差错限制在某一个限度内） 信源编码的目的：提高传输有效性，即用尽可能短的码符信源编码的目的：提高传输有效性，即用尽可能短的码符 号序列来代表信源符号号序列来代表信源符号号序列来代表信源符号号序列来代表信源符号。。 无失真信源编码定理证明，如果对信源序列进行编码，当无失真信源编码定理证明，如果对信源序列进行编码，当 序列长度足够长时序列长度足够长时序列长度足够长时序列长度足够长时 ，，存在无失真编码使得传送每信源符号存在无失真编码使得传送每信源符号存在无失真编码使得传送每信源符号存在无失真编码使得传送每信源符号 所需的比特数接近信源的熵。因此，采用有效的信源编码所需的比特数接近信源的熵。因此，采用有效的信源编码 会使信息传输效率得到提高会使信息传输效率得到提高会使信息传输效率得到提高会使信息传输效率得到提高。。 概述概述 一、一、信源信源编码编码器器 二、二、信源信源编码编码的分的分类类 三三三三、、分组码分组码分组码分组码 信源编码器信源编码器 分组码单符号信源编码器分组码单符号信源编码器分组码单符号信源编码器分组码单符号信源编码器 符号集符号集符号集符号集AAAA a 编为编为 c i i {a ,,a } 1 q 编码器编码器 码字集合码字集合 {c , , c } 1 q 信源序列信源序列 码符号集码符号集 {{bb ,bb }} 1 r 信源译码器信源译码器 分组码单符号译码器分组码单符号译码器分组码单符号译码器分组码单符号译码器 码字集合码字集合 {c , , c } 1 q 信源序列信源序列 {a , ,a } 1 q 译码器译码器译码器译码器