信息论基础讲课文档.pptVIP

其中： I(X;Y)=HC(Y)-HC(Y/X) 1 高斯信道 （续） 第三十页，共84页。 2 一般迭加性干扰信道 天电、工业干扰、其它脉冲干扰属迭加性干扰，它们是非高斯型分布。有以下定理： 定理3-6-1：对迭加性连续信道，收到平均功率（方差）为σ2的非高斯干扰影响时，当信道输出平均功率P一定时，其容量上下界为： 证：上界显见，下面给出下界证明。 主要思路利用正态性与Jensen不等式。 当信道输入X,输出Y以及噪声N为正态时： x ~N(0,S), y ~N(0,P), n ~N(0,σ2)并设，当信道输入X为正态时，互 信息可表示为：IN(X;Y)。则 （一）连续单消息信道及其容量 （续） 第三十一页，共84页。 2 一般迭加性干扰信道 （续） 第三十二页，共84页。 由信道容量定义，有 结论：高斯信道容量是一切平均功率受限的迭加性非高斯信道容量的下限值。 其它分布的容量都比高斯容量大，因此高斯容量是一切分布容量值最保守的估计值。 2 一般迭加性干扰信道 （续） 第三十三页，共84页。 （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。 对限频(F)、限时(T)的连续过程信源可展成下列取样函数序列： 现将这2FT个样值序列通过一个功率受限(P)的白色高斯信道并求其容量值C。 定理3-6-2：满足限频(F)、限时(T)的广义平稳随机过程信源X(t,w)，当它通过一个功率受限(P)的白色高斯信道，其容量为： 这就是著名的Shannon公式。 第三十四页，共84页。 则单位时间T=1时的容量为： （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 证：前面已求得单个连续消息（第k个）通过高斯信道以后的容量值为： 同时，在消息序列的互信息中已证明当信源、信道满足无记忆时，下列结论成立： 第三十五页，共84页。 由信道容量定义，有 （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 当信源、信道均满足广义平稳、限频、限时并具有白色谱特征，则时域相关函数样点值是不相关的。 第三十六页，共84页。 （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 对于高斯分布，不相关与统计独立是等效的，即满足： 信源无记忆： 信道无记忆： 第三十七页，共84页。 下面，讨论Shannon公式的物理意义与用途： （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 它给出了决定信道容量C的是三个信号物理参量：F、T、 之间的辩证关系。 第三十八页，共84页。 三者的乘积是一个“可塑”性体积（三维）。 三者间可以互换。 下面举例说明： 1 用频带换取信噪比：扩频通信原理。 雷达信号设计中的线性调频脉冲，模拟通信中，调频优于调幅，且频带越宽，抗干扰性就越强。 数字通信中，伪码(PN)直扩与时频编码等，带宽越宽，扩频增益越大，抗干扰性就越强。 下面仅以伪随机码（PN）直扩系统为例： 采用m序列：m=2n-1. 为了简化，取n=3,m=23-1=7. （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 第三十九页，共84页。 （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 2 用信噪比换取频带 卫星、数字微波中常采用的有： 多电平调制、多相调制、高维星座调制等等。(M-QAM)它利用高质量信道中富裕的信噪比换取频带，以提高传输有效性。 第四十页，共84页。 3 用时间换取信噪比 弱信号累积接收基于这一原理。 （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） t=T0 为分界线。 信号功率S有规律随时间线性增长，噪声功率σ2无规律，随时间呈均方根增长。 第四十一页，共84页。 Shannon公式另一种形式： （二）广义平稳的限频(F)、限时(T)、限功率(P)白色高斯信道及其容量C。（续） 其中，N0为噪声密度，即单位带宽的噪声强度，σ2= N0F; E 表示单位符号信号的能量，E=ST=S/F； E/N0 称为归一化信噪比.也称为能量信噪比. 当E/N01时， 第四十二页，共84页。 （三）有公共约束的连续消息序列信道 上面研究了平稳无记忆消息序列信道，这里进一步研究非平稳无记忆消息序列信道。但仍受到一定的公共约束条件。 对这类信道，主要问题是如何分配功率Sk,才能使其达到真正的容量值C。这仍是一个求条件极值的问题。