高斯信道和信源-Read.PPT

第4章 高斯信道和信源 4.1 高斯信道 如果信道输入符号集AX和信道输出符号集AY都等于全体实数的集合,X1,X2…,是信道在时刻1,2…的输入,则相应的输出Y1,Y2…由Yi=Xi+Zi给出,其中Z1,Z2… 是独立同分布的正态随机变量，均值为0，方差为σ2，则该信道称为加性高斯信道. 本节主要阐述平均功率限制条件下的离散时间无记忆加性高斯信道。 定理4.1: 高斯信道的Cn(β)=(n/2)log(1+ β/σ2), C(β)=(1/2)log(1+ β/σ2). * 加性信道 输入信号序列 {X1X2…XN} 输出信号序列 {Y1Y2…YN} 高斯噪声{Z1Z2…ZN} X1 Y1=X1 +Z1 Z1 XN YN=XN +ZN ZN 其中Z满足0均值，方差为σ2的正态分布 高斯信道的n阶容量—代价函数: 高斯信道的通用容量—代价函数: 高斯信道容量公式 T秒内将一系列实数x1,x2,…,xn由一点传输到另一点； 将xi转换为时间的连续函数x(t)[x(t)表示通过1Ω负载的电压]; 功率受限。 步骤： 找到n个函数Фi(t),i=1,2,…,n,它们在[0，T]时间间隔内正交，即： 传输的信号就可以表示为： 在接收端，xi理论上可以由x(t)获得： 但实际上我们会遇到两个问题： 1、传输功率受限 表明输入矢量不是任意的，它必须在半径为（PT）1/2的欧几里得球体内。 2、高斯热噪声的影响，使得接收信号为： 其中z(t)是高斯白噪声，接收信经处理后得到： 其中zi是统计独立，均值为0，方差为N0/2的高斯随机变量。 结论：在高斯信道中，噪声均值为0，方差σ2=N0/2，输入限制为β=PT/n，根据定理4.1有： 定义传输带宽为W=n/2T,并观察到每秒传输n/T=2W个符号，则容量变为： C=Wlog2(1+P/N0W) 单位为比特/符号 单位为比特/秒 香农公式的物理意义为：当信道容量一定时，增大信道的带宽，可以降低对信噪功率比的要求；反之，当信道频带较窄时，可以通过提高信噪功率比来补偿。香农公式是在噪声信道中进行可靠通信的信息传输率的上限值。 [例] 在电话信道中常允许多路复用。一般电话信号的带宽为3300Hz。若信噪功率比为20dB(即Ps/(NoW)=100)，代入香农公式计算可得电话信通的信道容量为22000比特／秒。 而实际信道能达到的最大信道传输率约为19200比特／秒。因为在实际电话通道中，还需考虑串音、干扰、回声等等的因素，所以比理论计算的值要小。 该定理只是一个存在性定理，它指出信道容量是一个临界值，只要信息传输率不超过这个临界值，信道就可几乎无失真地把信息传送过去，否则就会产生失真。即在保证信息传输率低于(直至无限接近)信道容量的前提下，错误概率趋于“0”的编码是存在的。 虽然定理设有具体说明如何构造这种码，但它对信道编码技术与实践仍然具有根本性的指导意义。编码技术研究人员在该理论指导下致力于研究实际信道中各种易于实现的具体编码方法。二十世纪六十年代以来，这方面的研究非常活跃，出现了代数编码、循环码、卷积码、级联码、格型码等等，为提高信息传输的可靠性作出了重要的贡献。 4.2 高斯信源 全称为”离散时间无记忆高斯信源”, 它的信源符号集合AU是全体实数的集合, 而信源输出由独立, 同分布正态随机变量的序列U1,U2,…描述，随机变量的均值为0，方差为σ2。 对高斯信源，在一般失真函数下，其率失真函数是很难求得的，但在平方误差失真度量下，其率失真函数有简单的封闭表达式。 对平方误差失真，试验信道输入符号和输出符号之间失真为： 对应的平均失真度为： 在平方误差失真下，设允许失真为D，则高斯信源 的率失真函数为： 下图表示当 时， 的曲线。 高斯信源编码定理： 定理的含义是：只要码长k足够长，总可以找到一种信源编码，使编码后的信息传输率略大于(直至无限逼近)率失真函数R(D)，而码的平均失真度不大于给定的允许失真度 由于R(D)为给定D前提下信源编码可能达到的下限， 所以定理说明了： 达到此下限的最佳信源编码是存在的． *