中南大学信息论与编码课件Inf_T_C_7.4N.ppt

2013 秋季 信息11 Inf Theory Coding-张祖平 信息论与编码 张祖平/Zhang Zuping 电子信息工程系 School of Information Science and Engineering,Central South University , zpzhang@csu.edu.cn 本章小结 作业 第三版书 P503 7.4 7.6 第二版书 7.4 7.6 运用以上三大特性剖析由 组成的 分组码的检纠能力与码字间汉明距离之间的内在联系： 1. 分组码能发现 个错误的充分必要条件是 分组码的 个码字中任意两个码字 个 之间的汉明距离 2. 分组码能自动纠正 个错误的充分必要条件是 分组码中任意两个码字 和 之间的汉明距离 7.5 分组码及其检纠能力 3. 分组码能自动纠正 个错误，同时又能发现 个错误的充分必要条件是 分组码中任意两个码字 和 之间的汉明距离 把由 组成的 分组码的 个长度为 的码字间的 个汉明距离的最小值 称之为这个 分组码的最小汉明距离。 7.5 分组码及其检纠能力 由以上讨论，可得一下结论： 1.若 ，则 分组码具有发现 个错误的检错能力； 2.若 ，则 分组码具有自动纠正 个错误的纠错能力； 3.若 ，则 分组码具有自动纠正 个错误，同时发现 个错误的检、纠错误能力。 7.5 分组码及其检纠能力 7.6 线性分组码的代数结构 1.群 2.子群 3.域 4.线性空间及子空间 7.7 简单重复编码 一般信道传输时都会产生错误，而错误概率与译码规则有关。 但当信道给定即信道矩阵给定，不论选择什么译码规PE总不会趋于零从而消除错误，那么如何减少错误概率呢？ 下边讨论通过编码方法来降低错误概率，以最简单的简单重复编码（随机编码）为例，针对最简单等概率二元对称信道。 * 例：对于二元对称信道 译码规则： 平均错误概率(假设输入等概时)： 0 1 0 1 0.99 0.99 0.01 0.01 最简单的思路：冗余，重复待发送的内容，出错了重发 * 没有使用的码字 001 010 011 100 101 110 用作消息的码字 000 111 输出端接收序列 000 001 010 011 100 101 110 111 二元对称信道的三次扩展信道 0 1 0 1 1-P=0.99 0.99 0.01 P=0.01 7.7 简单重复编码 这时信道矩阵为： 假设输入等概率，根据最大似然译码准则，可得译码函数为： F(000)=000 F(001)=000 F(010)=000 F(011)=111 F(100)=000 F(101)=111 F(110)=111 F(111)=111 * 平均错误概率，大大减小，降低了两个数量级 7.7 简单重复编码 利用重复发送信源消息进行信道编码，从而降低译码错误概率，这种信道编码方式称为“简单重复编码”也叫“随机编码” 进一步分析信道随机编码 如果我们不选择000和111呢？，假设我们选择000代表0，001代表1 译码规则通过最大似然译码准则可以得到： F(000)=000 F(010)=000 F(100)=000 F(110)=000 F(001)=000 F(011)=001 F(101)=001 F(111)=001 为什么第二种译码规则的错误率会提升呢？ 这表明扩展后8个符号中选择2个也是有技巧的。000和111任何一位变化，都非常明显，而第二次选择的000和001太“像”了。 再思考一下，如果我们选001和110作为输入，平均错误译码概率会如何？为什么呢？ * 7.7 简单重复编码 汉明Hamming距离。 长度为 n 的两个符号序列(码字)ai和bj之间的距离是指ai和bj之间对应位置上不同码元的个数，用符号D(ai，bj)表示。 这种码字距离通常称为汉明距离。 在某一码书C中，任意两个码字Ci和Cj的汉明距离的最小值称为该