信息论和编码 曹雪虹 PPT 第6章.pptVIP

第6章 信道编码 ;本章内容;6.1 信道编码的基本概念 ;差错类型;差错图样类型 ;二、纠错码分类 ;三、差错控制系统分类 ;6.1.2矢量空间与码空间 ;矢量空间与基底;矢量空间中矢量的关系 ;矢量空间与基底;二元域GF(2)上三重矢量空间 ;矢量空间;码空间;分组编码的任务 ;6.1.3随机编码;Shannon’ method for proving one baby weighs less than 10 kg;在(N,K)分组编码器中随机选定的码集有qNM种 第m个码集(记作{c}m )被随机选中的概率是 设与这种选择相对应的条件差错概率是Pe({c}m) 全部码集的平均差错概率是 ;必定存在某些码集 某些码集 若 ，就必然存在一批码集 即差错概率趋于零的好码一定存在 ;码集点数M=qK占N维矢量空间总点数qN的比例是 F =qK / qN = q-(N-K) 当K和N的差值拉大即冗余的空间点数增加时，平均而言码字的分布将变得稀疏，码字间的平均距离将变大，平均差错概率将变小。 当F?0 即(N-K)??时，能否让平均差错概率 ？ Gallager在1965年推导了 的上边界，并证明这个上边界是按指数规律收敛的。 ;E(R)为可靠性函数，也叫误差指数 码率：R =(lbM ) / N M是可能的信息组合数，M=qK N是每码字的码元数， R表示每码元携带的信息量，单位是每符号比特（bit / symbol） ;R在[0,R0]区间时E(R)~R曲线是斜率为-1（-45?）的直线，E(R)反比于R；而当R=C时E(R)=0即可靠性为零。 ;6.1.4信道编码定理;6.2 纠错编译码的基本原理与分析;6.2.1纠错编码的基本思路;6.2.1纠错编码的基本思路;6.2.2最优译码与最大似然译码;6.2.2最优译码与最大似然译码;如果 构成码集的2K个码字以相同概率发送，满足P(ci ) = 1/2K ， i=1,2,…,2K P(r)对于任何r都有相同的值，满足P(r) = 1/2K 则P(ci /r)最大等效于P(r / ci)的最大，在此前提下最佳译码等效于最大似然译码。 ;对于无记忆信道， 例：BSC信道的最大似然译码可以简化为最小汉明距离译码。 汉明距离译码是一种硬判决译码。由于BSC信道是对称的，只要发送的码字独立、等概，汉明距离译码也就是最佳译码。 ;6.3 线性分组码;6.3.1 生成矩阵和校验矩阵;线性分组码的形成;生成矩阵G(k×n)的特点;系统形式的生成矩阵;生成的码字C;系统码;空间构成;校验矩阵;例6-2 (6,3)线性分组码，其生成矩阵是 G= 求： (1)计算码集，列出信息组与码字的映射关系。 (2)将该码系统化处理后，计算系统码码集并列出映射关系。 (3)计算系统码的校验矩阵H。若收码r = [100110], 检验它是否码字？ (4)根据系统码生成矩阵画出编码器电原理图。 ;例6-2 码集与映射关系;例6-2 二元(6,3)线性分组码编码器;例 (6,3)线性分组码，其生成矩阵是 G1= G2= H= C=mG1 C=mG2 ;码集与映射关系;二元(6,3)线性分组码编码器;二元(6,3)线性分组码编码器;6.3.2 伴随式与标准阵列译码;伴随式S的定义;伴随式S的意义;差错图案E的求解(1) ;差错图案E的求解(2) ;依据：若BSC信道的差错概率是p，则长度n的码中错误概率 ： 0个错 1个错 2个错 … n个错 (1-p)n p(1-p)n-1 p2(1-p)n-2 pn 由于p 1, … 出错越少的情况，发生概率越大，E的重量越轻，所以该译码方法实际上体现了最小距离译码准则，即最大似然译码。 ;标准阵列译码表 ;标准阵列译码表的构成 ;S0? E0 S1? E1 ? Sj? Ej ? S2n-k-1? E2n-k-1 ;陪集和子集;例 6-3 一个(5,2)系统线性码的生成矩阵是G = 设收码R = (10101)，构造标准阵列译码表，