信息论与编码民大08-信道编码的概念.pptVIP

电信学院 汪汉新 信 道 编 码 信道编码定理(香农第二定理)：若有一离散无记忆平稳信道的容量为C，输入序列长度为L，只要信息率RC，总可以找到一种编码，当L足够长时，译码差错概率Peε，ε为任意大于零的正数。 定理指出：在编码速率小于信道容量的条件下，通过编码可以使译码错误概率任意小，从而达到可靠通信。定理只说明存在一种编码方式。但没有告诉我们如何构造可实现的、具有上述性能的编码方法。 信道编码：就是为解决这一问题而产生的学科，它的目的是寻找在易于实现且能达到可靠通信的编译码方法。 从信道编码的构造方法看，编码是根据一定的规律在待发送的信息码中加入一些多余的码元，以保证传输的可靠性。信道编码的任务就是构造出以最小多余度代价换取最大抗干扰性能的“好码”。 在资源（带宽，功率）、可靠性（误码率）和传输速率之间选择一个好的工作点（有时还要考虑延时）。 三种情况： 给定资源和可靠性要求，通过信道编码尽量提高传输速率。 给定对信息传输的速率和可靠性要求，通过信道编码尽量减少资源开销。 给定资源和传输速率，通过编码提高可靠性。 信道编码：从消息M到信道波形或矢量C的映射,即将所有的输入信息（消息） M映射到信道符号（波形） C空间的点，而这个点的集合要小于（包含于）全信道空间中。 而编码信道实际上是从发送空间C到接收空间R的一个概率映射函数 信道编码的对象：是信源编码器输出的信息序列m。通常是二元符号1、0组成的序列。 信道编码的基本思想： 按一定规则给序列m增加一些多余的码元，使不具有规律性的信息序列 m 变换为具有某种规律性的码序列 C； 码序列中的信息序列码元与多余码元之间是相关的； 信道译码器利用这种预知的 编码规则译码。检验接收到的数字序列 R 是否符合既定的 规则，从而发现 R 中是否有错，或者纠正其中的差错； 几个名词 信息码组：数字序列 m 总是以 k 个码元为一组传输，称这k 个码元的码组为信息码组。 码字：信道编码器按一定的规则对每个信息码组附加一些多余的码元，构成了 n 个码元的码字。码字的 n 个码元之间是相关的，附加的 (n－k) 个多余码元为何种符号序列与待编码的信息码组有关。 监督码元：附加的 (n－k) 个码元称为监督码元或监督元。 编码效率：R=k/n。 编码与构造编码 编码：针对当前要传的消息，根据映射规则，确定当前要发哪一个波形（矢量码字） 构造编码：寻找并建立映射规则 编码设计准则——最佳译码时的差错概率（最佳译码有可能做不到） 自由距最大化准则——一种最常用的编码构造准则 重复码：(0000), (1111)，将1比特信息映射到3比特编码序列。 哈达玛码：(0000H0), (0001H1), …, (1111H15) ,将4比特信息映射到16比特编码序列 几类常用信道编码 分组码 将一个有限k维输入矢量映射到一个n维矢量的编码，记为(n, k)分组码 卷积码 输入为一个无限长序列，每个分组有k个符号送入编码器，同时有n个符号输出，但每分组的输出不仅与本分组的输入有关，还与之前L-1个分组的输入有关，记为(n, k, L)卷积码 级联码 两个以上的编码器按一定方式组合而成的编码器 译码 译码最重要的是尽量正确地恢复原始信息，但译码本身是一种信息处理，肯定会引入一定的信息损失，会产生一定的误码(错误概率)，因此译码必须遵循一定的规则。 不同的译码规则，对错误概率会产生不同的影响。 译码的重点就是寻找好的译码规则，使译码的错误概率尽量的小。 最大似然译码： 由图可见：译码器接收到一个接收码字 R 后，按编码规则对 R 进行译码后输出信息码组的估值 m’； 信息码组与码字 C 之间是有固定规则的，这相当于信道译码器能给出码字 C 的估值 C’。当C’≠C时就出现了译码错误。因为只有当 C’=C 时，m’=m。 似然函数：p(R/C) 最大后验概率译码： 当译码器收到某一个接收码字R后，根据最大后验概率p(C/R)进行译码判决，一定是译码错误概率最小。 根据贝叶斯原理 后验概率：p(C/R) 编码增益 实际的通信系统，信号的传送需要一定的信噪比 Eb/N0，它直接影响通信系统的性能 在保持误码率恒定条件下，采用纠错编码所节省的信噪比Eb/n0称为编码增益： 式中，(Eb/n0)u － 未编码时的信噪比(dB)； (Eb/n0)c － 编码后所需的信噪比(dB)。 当输入符号等概分布时， 例： 设信道矩阵为 ，且输入符号等概分布，即 ，求译码规则和平均错误概率。 解：因为输入