《第5章有噪信道编码》-公开课件.pptVIP

宽广电信 信息论 第5章. 有噪信道编码 引言 信道编码的目的：提高传输可靠性。 有噪信道编码定理，即香农第二定理，是信道编码的理论基础。 本章重点介绍通过信道编码通信系统所能达到的极限性能，不涉及编码技术的具体实现。 本章主要内容 概述 常用译码准则 费诺(Fano)不等式 序列的最佳译码准则 有噪信道编码定理 §5.1 概述 信道编码就是按一定的规则给信源输出序列增加某些冗余符号，使其变成满足一定数学规律的码序列（或 码字），再经信道进行传输。（具有纠错能力） 信道译码就是按与编码器同样的数学规律去掉接收序列中的冗余符号，恢复信源消息序列。 信道译码方式 通常有两类信道译码方式 硬判决，即首先进行信道传输符号的判决再进行信道译码 ； 软判决，即信道传输符号的判决和信道译码同时完成； 通常，单符号的信道译码指的是信道传输符号的判决。 由于译码算法直接影响系统的传输的错误率，所以要选择使平均差错率最小的译码算法。 5.1.1 错误概率 为提高可靠性，必须降低传输的错误概率。 通常有两种错误概率的描述：误码率和误字率。 误码率是指传输码元出错概率（对二进制也称误比特率）. 误字率是指码字出错概率。 对同一通信系统，误码率总比误字率低。 错误概率既与信道的统计特性有关，也与译码规则的选择有关。 举例 例如：二元对称信道中，单个符号的错误传递概率是?，正确的传递概率是1- ?。 译码规则：收“0”译“0”，收“1”译“1”，则 译错的概率= 译对的概率=1/3 译码规则：收“0”译“1”，收“1”译“0”，则 译错的概率=1/3 译对的概率=2/3 5.1.3 译码（判决）规则 1.单符号译码规则 设信道的输入与输出分别为X和Y， ，分别 取自符号集A和B，且 ， 定义译码（判决）规则为 对于所有 （5.1.1） （5.1.1）的含义是，当接收到 就判定为发送符是 每一个信道输出都必须有一个信道输入与之对应。 译码（判决）规则是一个有唯一结果的函数，即单值函数。 译码规则举例 设信道输入X取值为(a1,a2,a3), 信道输出Y取值为(b1,b2,b3)，转移概率矩阵如下 设计译码规则A为：F(b1)=a1, F(b2)=a2 , F(b3)=a3 也可以设计另一个译码规则B：F(b1)=a1, F(b2)=a3 , F(b3)=a2 共有rs种译码规则可供选择（如例子） 选择依据：错误概率最小 2．错误概率的计算 假设采用的译码规则为： 在接收到 的条件下，若实际上发送的是 ，则译码正确，反之就出现差错。则本次译码的正确概率： 条件错误率为： 平均错误率为： 平均正确率为 举例 §5.2 常用译码准则 最常用两个准则： 1. 最大后验概率译码准则 2. 最大似然译码准则 5.2.1 最大后验概率译码准则 对所有 i，当满足 p(a*|bj)≥p(ai|bj) ， （5.2.1） 时，则选择译码函数为F(bj)=a*，称此准则为最大后验概率 (MAP，Maximum a Posteriori) 准则，也称最小错误概率准则，也叫最大联合概率准则。 MAP准则就是将具有最大后验概率的信道输入符号 作为译码输出。 平均错误概率的计算 一般我们知道先验概率和传递概率，故由MAP准则得到： 5.2.2 最大似然译码准则(ML准则) 若输入符号等概，即 p(ai)=1/r 时， 上式变为： 对所有 i, 当 则选择译码函数为 F(y)=a*，称此准则为最大似然译 码准则。 几点说明 1）当输入符号等概时，最大似然准则等价于最大后验概率准则。 2）该准则可直接从信道传递矩阵中选定译码函数，即收到bj后，译成信道矩阵p中第j列中最大那个元素所对应的信源符号。 3）该准则本身不再依赖于先验概率p(ai)，但当输入符号等概时，它使平均错误概率PE最小。 4）当输入符号等概或先验概率未知时，采用此准则。