第5章 节 信道编码 信息论 .pptVIP

2010年5月5日;第5章 信道编码;;经过信源编码，一般可认为通过离散信道传输的消息为二元序列，由于信道存在噪声，在信道中传输消息会发生错误。;②无错误传输可达的最大信息传输率是多少？;例;二、信道编码概念;如果信源等概，最小错误概率准则转换为最大似然准则。;例1;平均错误概率;为降低错误概率，考虑重复发送，如重复三次，将0编码为000，1编码为111，称为3重复码。;平均错误概率;如果重复N次，即编为N重复码，可求出;需要找的“好码”应该一方面能使错误概率PE降到可以接受的程度，另一方面信息传输率却不能与原信息传输率相差太多，有较高的编码效率。;3、汉明距离与编码原则;纠错码分类 ;纠错码分类 ;纠错码分类 ;在m(=2k)个码字构成的码中，两个长度为n的码字之间的汉明距离(码距)是指两个码字对应位置上不同码元的个数；对于二元码，码距可表示为：;长度为n的码字的汉明重量(码重)是指码字中非零码元的个数；对于二元码，码重可表示为：;在m个码字构成的码中，任意两个码字之间码距的最小值称为该码的最小距离，即：;对应三次扩展信道可能的8个码字;;选取其中c1=000，c8=111为许用码，其余为禁用码;三、线性分组码与汉明码;因此，需要找这样的纠错码：一方面能使错误概率Pe降到可以接受的程度，另一方面信息传输率R却不能降低太多，即要求有较高的编码效率。;汉明码是一种采用前向纠错方式的线性分组码;对于二元单符号信道的n次扩展信道即二元DMC，如果记输入线性分组码(n,k)为C，输出序列为R，由于存在检错能力，可由R获得错误序列E。;最简单的能检1个错误并能纠1个错误的线性分组码(n,k)的错误图案为00…01，00…10，…，01…00，10…00。;为校验位，长度为n-k=3。;;称该矩阵的转置矩阵为校验矩阵H，即;编码时希望;写成模2运算的矩阵形式：;由此得到(7,4)汉明码的一个生成矩阵和校验矩阵。;其码距：;…;(7,4)汉明码的译码过程如下：;对于BSC，(7,4)汉明码的平均错误概率为多少？;记BSC的信道矩阵;其平均错误概率为;增加，使编码效率接近1。;;写成模2运算的矩阵形式：;相应的逻辑关系式：;称该矩阵为生成矩阵G，即;习题：6.2