信息论与编码第六章.pptVIP

信息论与编码;教学目的与要求

;本次课内容

6.1信道编码概念

6.1.1信道编码概述

6.1.2译码规则

6.1.3编码规则

6.1.4纠错编码的基本原理

6.2线性分组码

6.2.1线性分组码的编码;[温旧引新]三大编码:

;检错原理误码的必然性:

;四种天气状况:;检错--------如何检测有无误码?

正误应有别-------许用码字与非法码字

原因----------冗余的作用

;纠错原理

;双连码只能检错,不能纠错,因为冗余不够。

三连重复码当其中任一码元出错时,还有2位没有错,通过比较就能发现是哪一位错了,从而可以进行纠正。

万一三连重复码有两位码元出错时,就会判断失误。表明超出了它的纠错能力。

三连重复码的纠错能力是1位,五连重复码的纠错能力是2位,添加的冗余越多,纠错能力就越强,然而传输效率就越低。;汉明距离(Hanmingdistance):

;检、纠错原理------添加冗余

;汉明重量与汉明距离;最小汉明距离;检错、纠错能力;;[例1]已知汉明距离d0=7,分析检、纠错能力。

(1)只检不纠:e=d0-1=6;可检到6位错。

(2)只纠不检:t=(d0-1)/2=3;可纠3位错。

(3)又检又纠:e与t不独立:e+t≤d0-1,且et

当t=1时,1e≤5,1位错已纠,只能检2—5位错。

当t=2时,2e≤4,2位错已纠,只能检3—4位错。

当t=3时,e无解,3位错已纠,3位以上无能力检

;;

[例2]讨论双连重复码的编码效率和漏检率。

编码效率η=k/n=1/2=0.5

假设对称信道,0与1的错误概率均为p,则:

漏检率=2位同时出错的概率=p2

[例3]讨论三连重复码的编码效率和差错率。

编码效率η=k/n=1/3=0.33

差错率=3位同时出错的概率+2位出错1位正确的概率=p3+3p2(1-p)

;;;双向监督码;恒比码;[例4]讨论恒比码的编码效率和漏检率。

五中取三码的编码效率η=k/n=log10/5=66.4%

七中取四码的编码效率η=k/n=log35/7=73.3%

它们可以发现多位错误,却不能发现同时出现0误为1且1误为0的错误,也无纠错能力。

;小结:

;错误概率与纠错能力;;平均错误概率为:

与编码前单符号传输相比,差错率由原来的百分之一降低到万分之三。代价是传输效率为原来的三分之一。

;;译码规则是设计人员预先为译码器设计好的译码指令。

每当收到一个符号bj;系统都应当为它指定一条译码规则:F(bj)=ai*告诉译码器应当把bj译为哪个ai;

比如三连重复码的译码规则是:

F(000)=0;F(001)=0;F(010)=0;F(100)=0;F(111)=1;F(011)=1;F(110)=1;F(101)=1;

;[例1]信源发出符号a1,a2,a3;接收端符号为b1,b2,b3;

对它可以构造多种译码规则。比如:

译码规则A:F(b1)=a1*;F(b2)=a2*;F(b3)=a3*

译码规则B:F(b1)=a1*;F(b2)=a3*;F(b3)=a2*

同样的信源信道,选用不同的译码方案,将会得到不同的结果。究竟采用哪个译码规则更好呢?一个很自然的考虑就是按该方案译码后,造成的错误概率应最小

;译码错误概率;译码错误概率计算公式;;联合概率为i=1,2,…,r,j=1,2,…,s。;;;

最大似然译码准则:

收到bj后,在信道矩阵的第j列中,译为该列最大那个元素所对应的ai。

当输入符号的先验概率均相等时,两个准则相同。;;;6.1.2编码规则;下面研究如何编码以使pe变小。

采用重复编码的方法(线性分组码):

若发送0，则发000；

发送1，则发111。

这样，在输入端有两个码字，但在输出端,由于信道干扰作用,各码元之间可能发生错误则有8个可能的输出序列.在接收端有8个可能的序列。;;;根据经验得出如下结论：;;定理6-1(香农第二定理)

对任意一个离散无记忆平稳信道,设信道容量为C,则只要信息传输率RC,则对任意给定的正数,总存在一种分组长度为n的信道编码方案(n足够大),以小于ε的错误概率实现可靠通信