信息论与编码-第六章2讲解.pptVIP

  1. 1、本文档共23页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
信息论与编码-最优译码和最大似然译码 最优译码和最大似然译码 信道的输入是一个二(或q)进制序列,而译码器的输出时一个信息序列M的估值序列 。如下图所示。 译码器的基本任务就是根据一套译码规则,由接收序列R给出与发送的信息序列最接近(最好是相同)的估值序列 信息论与编码-最优译码和最大似然译码 信道 纠错编码器 纠错译码器 干扰源 信源编码器输出 至信宿 分组码数字通信模型 信息论与编码-最优译码和最大似然译码 由于M与码字C之间存在一一对应关系,所以这等价于译码其根据R产生一个C的估值序列 , 显然,当且仅当 时, 。这时译码器正确译码。 如果 ,则译码器产生错误译码。 当给定接收序列R时,译码器的条件译码错误概率定义为 信息论与编码-最优译码和最大似然译码 所以译码器的错误译码概率为 其中, 是接收R的概率,与译码方法无关, 译码错误概率最小的最佳译码规则是使 最小,即 信息论与编码-最优译码和最大似然译码 而 因此,如果译码器对输入的R,能在 个码字中选择一个使 最大的码字 作为C的估值序列 ,即 则这种译码规则一定能使译码器输出错误概率最小,称这种译码规则为最大后验概率译码MAP (maximum aposteriori),也叫做最佳译码。是一种通过经验与归纳由收码推测发码的方法,是最优的译码方法。 信息论与编码-最优译码和最大似然译码 由贝叶斯公式 可知,如果发送端发送每一个码字的概率 均相同,且p(R)对所有R也相等(信道对称均衡),则有 信息论与编码-最优译码和最大似然译码 一个译码器如果能选择 即在已知R的情况下使先验概率最大,则这种译码规则称为最大似然译码(ML(MLD):Maximum Likelihood), 称为似然函数。相应的译码器称为最大似然译码器。 信息论与编码-最优译码和最大似然译码 由于logx与x是单调关系,因此最大似然规则也可以写成 称logp(R/C)为对数似然函数。 信息论与编码-最优译码和最大似然译码 对于DMC信道,如果发送端发送每一个码字的概率 相等,则一般可认为MLD就是译码错误概率最小的一种最佳译码规则。 由于最佳译码要求知道后验概率p(R/C),这在很多时候是很困难的,所以经常使用的是最大似然译码,在很多情况下,可以认为最大似然译码就是最佳译码。 信息论与编码-最优译码和最大似然译码 对于BSC信道,在译码的时候,如果我们逐比特地比较发码和收码,就只有两种可能性:相同或者不同,其概率分别是: 信息论与编码-最优译码和最大似然译码 如果R中有d个码元与 不同,我们称R和 之间的距离为d,这样定义的距离称为汉明距离。接收码字R和发送码字 之间的汉明距离,就是二者模2加后的重量,即 信息论与编码-最优译码和最大似然译码 此时的似然函数是 因为上述似然函数中 是常数, 可以看出,d越大,则似然函数越小,因此,求最大似然函数问题就变成了求最小汉明距离问题。 信息论与编码-最优译码和最大似然译码 汉明距离译码是一种硬判决译码。只要在接收端将接收码R与所有可能的发码逐比特进行比较,选择其中汉明距离最小的码字作为译码结果就可以了。当发送的码字互相统计独立且等概时,汉明距离译码就是最佳译码。 信息论与编码-码距与检错、纠错能力 码距与检错、纠错能力的关系 码距:在随机编码中,我们曾说过,一个码字可以看作是N维矢量空间的一个点,全部码字所对应的点集合构成矢量空间的一个子集。子集的任意两点之间都存在一定的距离,这个距离叫做码字之间的码距。子集任意两点之间的码距的最小值记为 。 欧氏距、汉明距 信息论与编码-码距与检错、纠错能力 检错能力:如果信道传输无误,接收到的N重矢量一定是码字,在矢量空间中一定对应到码字子集中的一个点上。当传输有误时,可能会发生两种情况:一是不再对应码字子集上的一点,而是对应到码字子集点相邻的的另一个空间点上;第二种可能是仍然对应到码字子集中的一个点上,但却是一个错误的点上。第一种情况下,译码的时候一定可以判断出发生了误码;而第二种情况却不能判断出发生了误码。 信息论与编码-码距与检错、纠错能力 对于一个最小码距为 的码字子集,如果传输中发生误码后使得空间点的位置偏移小于 ,则一定可以判断出发生了误码,因为这时候由于误码不可能从一个空间点偏移到另一个空间点。换句话说,可以

文档评论(0)

tt435678 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档