第四章信道与信道容量.pptVIP

演示文稿第四章信道与信道容量第1页，共70页。

第四章信道与信道容量第2页，共70页。

本章节达到的目的了解信息论研究信道的目的、内容了解信道的基本分类并掌握信道的基本描述方法掌握信道容量/信道容量代价函数的概念，以及与互信息、信道输入概率分布、信道转移函数的关系能够计算简单信道的信道容量/信道容量代价函数（对称离散信道、无记忆加性高斯噪声信道）了解信道容量/容量代价函数在研究通信系统中的作用第3页，共70页。

概念问题熵?熵率?无失真信源编码定理中的作用互信息?信道容量?信道编码定理中的作用第4页，共70页。

回顾－互信息函数的性质1互信息与信道输入概率分布的关系性质1：I(X;Y)是信道输入概率分布p(x)的上凸函数.I(X;Y)p(x)第5页，共70页。

回顾－互信息函数的性质2信息量与信道转移概率分布的关系性质2：I(X;Y)是信道转移概率分布p(y/x)的下凹函数.I(X;Y)p(y/x)第6页，共70页。

回顾－互信息函数的性质3信息量与信道输入符号相关性的关系性质3:信道的输入是离散无记忆的,第7页，共70页。

回顾－互信息函数的性质4信息量与信道输入符号相关性的关系性质4:信道是离散无记忆的,第8页，共70页。

回顾－互信息函数的性质5性质3、性质4的推论：信道的输入和信道本身都是离散无记忆的第9页，共70页。

信道与信道容量概述信道的分类与描述离散无记忆信道及其容量连续信道及其容量容量代价函数C(F)第10页，共70页。

§4.1:概述信息论对信道研究的内容什么是信道？信道的作用研究信道的目的第11页，共70页。

§5.1:概述－1信息论对信道研究的内容：信道的建模：用恰当的输入/输出两个随机过程来描述信道容量不同条件下充分利用信道容量的各种办法第12页，共70页。

§5.1:概述－2什么是信道？ 信道是传送信息的载体——信号所通过的通道。 信息是抽象的，信道则是具体的。比如：二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。第13页，共70页。

§5.1:概述－3信道的作用 在信息系统中信道主要用于传输与存储信息，而在通信系统中则主要用于传输。第14页，共70页。

§5.1:概述－4研究信道的目的实现信息传输的有效性和可靠性有效性：充分利用信道容量可靠性：通过信道编码降低误码率 在通信系统中研究信道，主要是为了描述、度量、分析不同类型信道，计算其容量，即极限传输能力，并分析其特性。通信技术研究－－信号在信道中传输的过程所遵循的物理规律，即传输特性信息论研究－－信息的传输问题（假定传输特性已知）第15页，共70页。

§4.2:信道的分类与描述信道分类信道描述第16页，共70页。

§4.2:信道分类与描述－1信道分类 从工程物理背景——传输媒介类型； 从数学描述方式——信号与干扰描述方式； 从信道本身的参数类型——恒参与变参； 从用户类型——单用户与多用户；第17页，共70页。

§4.2:信道分类与描述－2第18页，共70页。

§4.2:信道分类与描述－3第19页，共70页。

§4.2:信道分类与描述－4第20页，共70页。

§4.2:信道分类与描述－5第21页，共70页。

§4.2:信道分类与描述－6信道描述信道可以引用三组变量来描述：信道输入概率空间：信道输出概率空间：信道概率转移矩阵：P即：{P}，它可简化为：。第22页，共70页。

§4.2:信道分类与描述－7其中：而 而第23页，共70页。

§4.2:信道分类与描述－8当K=1时，退化为单个消息（符号）信道；进一步当n=m=2时，退化为二进制单个消息信道。若它满足对称性，即构成最常用的二进制单消息对称信道BSC：且,,第24页，共70页。

§4.3:离散无记忆信道及其信道容量离散无记忆信道及其信道容量离散无记忆信道容量的计算离散无记忆信道的信道容量定理对称的离散无记忆信道容量香农第一定理的物理意义第25页，共70页。

§4.3:离散无记忆信道及其信道容量-1离散消息序列信道第26页，共70页。

§4.3:离散无记忆信道及其信道容量-2离散无记忆信道及其信道容量由消息序列互信息性质对离散无记忆信道，有：