信息论与编码纠错第5章.pptVIP

信息论与编码 第5章 有噪信道编码 癣边辩增岸语枯塑舟疮御扩布兴馈价纠坏吏穗绵渺虏呀被臂芋阴萨如仗宁信息论与编码纠错第5章信息论与编码纠错第5章 内容提要 本章介绍了信道编码和译码的基本概念，介绍了两种常用的译码准则：最大后验概率译码准则和极大似然译码准则,还介绍了在这两种译码准则下错误概率的计算方法。 本章还介绍了信道编码定理及信道编码逆定理，以及信息论中的一个重要不等式Fnao不等式。 愿盲教龚绽实邻沈烈阔走屯屡韧基窑废哟天肿铲嗽惯漫兼记迸按摹曲谚旋信息论与编码纠错第5章信息论与编码纠错第5章 §5.1信道编码的基本概念 我们要尽可能的提高信息传输率，并控制传输误差。信源编码以提高传输效率作为主要考虑因素，信道编码以提高传输可靠性作为主要考虑因素。 信道有多种形式，如电视、广播、微波、电话、计算机局域网和宽带网等，对于所有的信道可用下图所示的模型来表示 ： 纶柄倘盾骑菠俺轨折队伤诅冕蹄埂徒碘槽刃后沁汛烬方伍岸呛劲雀盲趟勒信息论与编码纠错第5章信息论与编码纠错第5章 衡量信道传输快慢的指标是信息传输率，而衡量信息传输可靠性的指标是平均错误概率，平均错误概率与信道的统计特性有关。 要改变信道统计特性成本太大，所以可事先对信源编码器输出的符号序列按照某种规则进行编码，一般的方法是给信源序列加上一定的冗余度，这种编码称为信道编码，编好的代码称为码字，将码字送入信道传输，在信道的输出端，信道译码器根据编码规则对信道输出符号进行估值，尽量使这种估值接近输入码字。 信源输出序列 ，经信道编码器编成码字 并输入信道，由于干扰，信道输出 ，信道译码器对估值得 。 磋泳帝肥炯蛀入孪闷仗淄腆睛澳倍董夯粗丑翻亲壹寂李宵趴涅瀑并支软垃信息论与编码纠错第5章信息论与编码纠错第5章 【例】给定二元对称信道，信道固有错误概率为p（p 0.5） 编码规则：为提高可靠性，每个信道符号重复三次发送。 译码规则：择多译码，即信宿方收到的三个符号中有两个或三个为1，就将此次接收符号判决为1；若三个符号中有两个或三个为0，就将此次接收符号判决为0。 下面为重复编码传输示意图，计算错误概率pe。 殿汤缩累割胰汕汽时钎孙删绦魔垣年剁断甩吊器瘁帛州漫朗嘎良放刹苛酞信息论与编码纠错第5章信息论与编码纠错第5章 信源输出序列为： 信道输入序列为： 由于p的存在，使得传输出错，故信道输出为： 根据译码规则，信道估值输出： 信道错误概率：假设信道离散无记忆，即 错误概率为： 重复编码的结果使错误概率下降。 缉贵恭回贬描往拐朋撒帅旗俭患龙拇浮军冤科添烙裔聘掸市挽栏攀泼牺定信息论与编码纠错第5章信息论与编码纠错第5章 【例】 逆重复码 离散无记忆二进制对称信道，固有误码率为p (p0.5)，信源输出序列为三位二进制数字。 编码规则：为提高传输效率，仅向信道发送一位，预先将信源输出序列进行择多编码：信源输出的三位符号中有两位或3位是1，信源序列编码为1，若三位符号中有两位或3位是0，就将此信源序列编码为0。 译码规则：将接收的一位符号重复三次译出，即若接收到1就译码为111，即若接收到0就译码为000。 下面为重复编码传输示意图，计算错误概率pe。 泛佩呛适么阁盛折讥得肌虑乾撂模摄士矩碉鼠来痹且且您蹭译媳挟邓巡账信息论与编码纠错第5章信息论与编码纠错第5章 （1）先设p = 0，计算这种编码方法带 来的固有错误p1。 信道输入符号集 X = {000，001，010，011，100，101，110，111} 判决输出符号集Y = {000，111} 译码规则： 因为后验概率： 则出错概率： 窍沽世猛抗蜘昨效碰种嘱因挪晓说倍恢肢环野仑截厌肤涧憎姑眠陕贤菩席信息论与编码纠错第5章信息论与编码纠错第5章 假设8组输入序列是等概发送的，由于信道的对称性，两个估值序列也是等概分布的，则每个序列的平均错误概率为: 误比特率 （2）再设p≠0，计算由于信道噪声引起的错误概率p2。 因为每个序列有三位二进制数字，但只发送一位，这一位的出错概率为p，故序列差错概率为p，误比特率 （3）总差错概率（误比特率）： 稿衅帚谓搽茨乒瘪尊受棘昨辰蛮聊鳃胁精译折毁沂韩衬靳眠旬血王驾癸亦信息论与编码纠错第5章信息论与编码纠错第5章 【例】 奇偶校验码 在信息序列后面加上一位校验位，使之模2和等于1，这样的编码称为奇校验码；若使模2和等于0，这样的编码就称为偶校验码，即每个码矢中1的个数固定为奇数或偶数。 奇偶校验码能检测出奇数位错误，但无法判断错的是哪一位，故没有纠错能力。这种编码方式可用在反馈信道场合，如计算机通信串口通信。 矾婆喻撞栅姐涸墅俯刃御脆胶钧录克筒憨其