论1第六章.ppt

* 第6章 有噪信道编码 第6章 有噪信道编码 内容提要 本章介绍了信道编码和译码的基本概念，介绍了两种常用的译码准则：最大后验概率译码准则和极大似然译码准则,还介绍了在这两种译码准则下错误概率的计算方法。 本章还介绍了信道编码定理及信道编码逆定理，以及信息论中的一个重要不等式Fano不等式。 6．1 信道编码的基本概念 愿望：快捷可靠 现实： （1）速度：受信道容量限制，不可能无穷大； （2）质量：受信道噪声干扰，传输错误不可避免。 问题的提出 信道编码器 信道 信道译码器 u x y N 信源输出序列u，经信道编码器编成码字x = f (u) 并输入信道， 由于干扰，信道输出y，信道译码器对y估值得 = F (y) 。 衡量信道传输快慢指标：信息传输率 信息传输可靠性指标：平均错误概率pe Pe与信道的统计特性有关，不可能为零，有时甚至很大。? 降低Pe的方法：先对消息进行编码再送入信道传送，这种为降低平均差错率而进行的编码称为信道编码；在信道输出端加信道译码器进行信息还原。? 信道编码器 信道 信道译码器 u x y 图6-1 信道模型 【例6.1】给定二元对称信道，信道固有错误概率为p（p0.5） 编码规则：为提高可靠性，每个信道符号重复三次发送。 译码规则：择多译码，即信宿方收到的三个符号中有两个或三个1，就将此次接收符号判决为1；若三个符号中有两个或三个为0，就将此次接收符号判决为0。 图6-2所示为重复编码传输示意图，计算错误概率pe。 原序列 1 0 1 1 发送 111 000 111 111 接收 111 001 001 000 判决输出 1 0 0 0 图6-2 重复编码传输示意图 p P2 P3 信源输出序列为u＝{1,0,1,1},将信源符号重复三次发送，即向信道输入序列x={111，000，111，111}，这一过程称为信道编码。在信道传输过程中，由于p的存在，使得传输出错，信道输出为y={111，001，001，000} 第一种情况：111→111 无错 第二种情况：000→001 错1位 第三种情况：111→001 错2位 第四种情况：111→000 错3位 根据译码规则，估值输出 ，这一过程称为信道译码。 与原发送序列相比较，可见，如三位里面错两位或三位里面错三位，则属于不可纠正错误。 假设信道离散无记忆，即 错误概率pe为： 【例6.3】 逆重复码 离散无记忆二进制对称信道，固有误码率为p (p0.5)，信源输出序列为三位二进制数字。 编码规则：为提高传输效率，仅向信道发送一位，预先将信源输出序列进行择多编码: 图6-3 逆重复编码传输示意图 译码规则：将接收的 一位符号重复三次译出，即若接收到1就译码为111，即若接收到0就译码为000。 信源输出的三位符号中有两位或3位是1，信源序列编码为1， 若三位符号中有两位或3位是0，就将此信源序列编码为0。 计算差错概率pe ： 分二步进行： （1）先设p = 0，计算这种编码方法带来的固有错误p1信道输入符号集X = {000,001,010,011,100,101,110,111} 判决输出符号集Y = {000,111} 译码规则 因为后验概率 则出错概率 假设8组输入序列是等概发送的，由于信道的对称性，两个估值序列也是等概分布的，则每个序列的平均错误概率为 ， 误比特率 。 （2）再设p≠0，计算由于信道噪声引起的错误概率p2因为每个序列有三位二进制数字，但只发送一位，这一位的出错概率为p，故序列差错概率为p，误比特率 。 （3）总差错概率（误比特率）： 【例6.4】 奇偶校验码 在信息序列后面加上一位校验位，使之模2和等于1，这样的编码称为奇校验码；若使模2和等于0，这样的编码就称为偶校验码，即每个码矢中1的个数固定为奇数或偶数。