信息论六有噪声编码.pptVIP

第6章 有噪信道编码 ;第6章 有噪信道编码 ;6．1 信道编码的基本概念 ;【例6.3】 逆重复码 离散无记忆二进制对称信道，固有误码率为p (p0.5)，信源输出序列为三位二进制数字。 编码规则：为提高传输效率，仅向信道发送一位，预先将信源输出序列进行择多编码:;计算差错概率pe ： （1）先设p = 0，计算这种编码方法带来的固有错误p1信道输入符号集 X = {000,001,010,011,100,101,110,111} 判决输出符号集Y = {000,111} ; 两个估值序列也是等概分布的，则每个序列的平均错误概率为 误比特率 （2）再设p≠0，计算由于信道噪声引起的错误概率p2。因为每个序列有三位二进制数字，但只发送一位，这一位的出错概率为p，故序列差错概率为p，误比特率 （3）总差错概率（误比特率）： ;6．2 译码规则及错误概率 ;图6－5 通信过程框图 ;根据概率关系式 （6-3） ;【例6.5】 信源分布 ，信道 转移概率矩阵 ， 信道输出符号Y = {y1, y2, y3}，按最大后验概率准则译码。; (2)根据 ，算出 [?（y）] = [0.38 0.34 0.28] ;(5)若按最大联合概率译码准则译码，在全概率矩阵[ p(xy)]中每列选一最大值（矩阵中带下划线的值），也可译出 。;3．平均错误概率; （1）求平均错误概率pe 根据式（6-4）得 = 0.01+0.12+0.07+0.12+0.1+0.02 = 0.44 ;(2)当信源等概分布，按最大似然函数译码准则译码，[例 6.5]已给出信道转移概率矩阵 在矩阵的每 列中选一最大值(矩阵中带下划线的值)，译码为 平均错误概率 ;6．3 信道编码定理;一． 随机编码方法 ;式中0 ? ? , ? ? 1，因为 ? , ? 都是任意数，可取 ;三． 随机编码错误概率上界 ;;6．4 费诺引理及信道编码逆定理 ;将Fano不等式推广到L维矢量情况： 设x = x1, …, xl, …, xL , y = y1, …, yl, …, yL,皆为L维矢量， ?xl , yl ∈A = {a1, a2, …, ak }， 记 pe为错误概率，则 H (X︱Y ) ? L [H2 (pe) + pe log (k-1)] (6-24);6.4.2 信道编码逆定理 ;即： H2 (pe) + pe log (k -1) （6-32） 式中 为信息传输率。 ;本 章 小 结;信道编码定理 对于任何离散无记忆信道DMC，存在信息传输率为R，长为n的码，当n →∞时，平均差错概率 pe exp{- nE (R)}→0，式中E (R) 为可靠性函数，E ( R )在0 R C的范围内为正。 ;Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd.