北工大信息论第六章有噪信道编码14教案详解.pptVIP

1.生成矩阵和校验矩阵 二.线性分组码 有（5，2）分组码,设 ,其中 为信息码元， 为校验码元 假设校验码元由下列方程组得到,其中 表示模2加. 方程组改写成矩阵形式有: 令 则: 式中H称为一致校验矩阵 * * 第六章 有噪信道编码 需要掌握的内容： 译码规则与错误概率的关系 平均差错率与信道编码的关系 汉明距离 有噪信道编码定理 线性分组码 第一节 译码规则与错误译码概率 0 0 1 1 信源 （信源编码，信道编码） 译码 （信源译码，信道译码） 信道 信宿 一.译码规则 译码函数又称译码规则 注意: 译码规则是人为定的,对于同一个信道可有多个不同的译码规则 信道译码函数F是从输出符号集合B到输入符号集合A的映射 定义 0.8 0.2 0.1 0.9 a1 a2 b1 b2 例如：对于二元信道就可制定若干不同译码规则，如图所示。 “好”的译码规则的标准是：错误译码概率小 译码正确---如果接收到bj，按 译成aj* ， 而输入的刚好是aj* bj的译码正确概率为： bj的译码错误概率为： 二.错误译码概率 译码错误概率的统计平均称为平均译码错误概率或平均差错率，记为Pe Pe与译码规则F有关 使Pe小的译码规则F是好的译码规则 简化Pe式为下面的形式： 当输入等概: 上式可化为： 例6-1： 参见下图，假设P(a1)=0.4,分别求出4种译码规则所对应的平均差错率。 0.8 0.2 0.1 0.9 a1 a2 b1 b2 解：信道输入概率矩阵和转移矩阵分别为： 转移矩阵各行元素乘以对应的输入概率，得联合概率矩阵 ? 译码规则F1对应的平均差错率为 其它译码规则对应的平均差错率分别为 Pe(F2)=0.4 Pe(F3)=0.14 Pe(F4)=0.86 四种规则相比，F3最好，F4最差 第二节 两种典型的译码规则 一.最佳译码规则 平均差错率Pe与译码规则有关，使Pe达到最小的译码规则——最佳译码规则。 可以看出：要减小Pe ，必须减小各个接收符号的译码错误概率　　　，或者增大各个接收符号的译码正确概率　　　　　。 确定最佳译码规则的方法： 该最佳译码规则称为最大后验概率译码规则 最大后验概率条件可等价为最大联合概率条件,为什么呢? 则最佳译码规则又可表示为： 最佳译码规则又称为最大联合概率译码规则 例6-2 参见下图，假设P(a1)=0.4，求最佳译码规则。 0.8 0.2 0.1 0.9 a1 a2 b1 b2 解：例6-1已经求出联合概率矩阵，重写为 则最大联合概率译码规则为： 对应的平均差错概率： ——按最大转移概率条件确定的译码规则 例6-3：已知信道转移矩阵，试确定译码规则。 解：按转移概率最大原则确定极大似然译码规则如下： 二、极大似然译码规则 原因是：极大似然译码规则是按最大转移概率条件确定的，即 如果输入等概，则 所以 当信道输入等概率时，极大似然译码规则是最佳的。 提问:为什么? 第三节 信道编码的编码原则 二元信源和二元对称信道的模型如下图所示 DMC X {a1,a2} Y {b1,b2} a1=0 a2=1 b1=0 b2=1 1-p 1-p p=0.01 p=0.01 DMS U {u1,u2} 信源的熵为：H（U）=logM=1比特/符号 信道容量为：C=log2-H(0.99,0.01)=0.92比特/符号 由图可知： 信源与信道之间不加信道编码，则由于信道输入等概分布，则极大似然译码规则就是最佳译码规则，根据信道转移矩阵 确定极大似然译码规则为： 平均差错率为： 提问：传输系统的Pe要求控制在10-6以下，而利用译码规则的Pe太高，如何降低平均差错率呢？　　　　　　　　　　　　　 －－－信道编码 一.简单重复编码 对信源符号进行“重复2次”编码: 信道编码f 信道译码F “重复2次”编码规则为 求出3次扩展信道的转移矩阵 按极大似然译码规则得译码函数 即： 译码差错率为： 结论：信道编码降低平均错误率 提问：信道编码对信息传输速率有什么影响呢？ 信道编码，或称为纠错编码，就是靠增加“冗余”码元来克服或减轻噪声影响的。 结论：信道编码降低了信道的信息传输率 信道编码之后的信息率或信道待传的信息率为 无信道编码的信息率或信道待传的信息率为 二.对符号串编码(矢量编码） 例6-4： 二元信源U，若取二元符号串“00，01，10，11”作为消息，则消息个数增加为M=4。 提问：此时平均差错率又发生怎样的变化呢？ 结论：增加信源消息个数，可提高信道的信息传输率 取码长N=3，则编码后的信息率为