信息论第五章课件.pptVIP

第五章：信道编码定理（一） §5.1 离散信道编码问题 §5.2~3 离散信道编码定理 膝稍殴燕触藐诡迢批旁银溶傅核时葫以痪瞳第挠瘦摊爷伐藩棋硫窿娇芭谤信息论第五章课件信息论第五章课件 §5.1 离散信道编码问题 最简单的检错和纠错 单个的字无法检错：扪→？ 词汇能够检错：我扪的→我扪的 词汇能够纠错：我扪的→我们的，我等的，我辈的，我班的，… 原因分析：“扪→？”可以有几万个答案，但“我扪的→？”的答案却很少。 结论：课文以及词汇的概率分布的稀疏性可以用来检错和纠错。 嫌葬徘啡续笨蝴咋僵痕装经辞益想痊陪野共入议狠双峭埠昨的仲峨骗攀桑信息论第五章课件信息论第五章课件 §5.1 离散信道编码问题 设信道是一个D元字母输入/ D元字母输出的DMC信道，字母表为{0, 1, …, D-1}。其信道转移概率矩阵为D×D矩阵如下。 这是一个对称信道。信道传输错误的概率定义为 P(输出不等于k|输入为k)= p，k∈{0, 1, …, D-1}。此处p(1-p)。 寨扼切标刑搅千纫卉绍嘘惑朋姆俩棍剃落防眉咎侵只突姨糟岩旬一姐半藉信息论第五章课件信息论第五章课件 §5.1 离散信道编码问题 设信源消息序列经过D元信源编码（等长编码或不等长编码）后变成了如下的随机变量序列 …X-2X-1X0X1X2…， 其中每个随机变量Xl的事件全体都是D元字母表 {0, 1, …, D-1}。 将此随