第3章节信道容量.ppt

第3章 信道容量 3.1 信道的数学模型和分类 信道模型 图中X为信道的输入消息集合，也称为信道的输入空间，Y为信道的输出消息集合，也称为信道的输出空间。集合{P(y|x)}是描述信道特征的传输概率集合。 3.1 信道的数学模型和分类 3.1 信道的数学模型和分类 (2)按信道输入/输出随机变量个数的多少来分 单符号信道：输入和输出都只有一个随机变量 多符号信道：输入和输出则用一个随机变量序列和随机矢量来表示 3.1 信道的数学模型和分类 (3)按信道的输入消息集合和输出消息集合的个数来划分 两端信道：信道的输入消息集合只有一个X集合，同时信道的输出消息集合也只有一个Y集合。又称为单向单路信道。 多端信道：信道的输入端和输出端中，至少有一端具有一个以上的消息集合。又称为多用户信道。 3.1 信道的数学模型和分类 (4)信道按输入/输出信号间的关系是否确定来划分， 无扰信道：信道输入/输出之间的关系是一种确定的关系，这是一种理想化的信道，信道上不存在噪声及干扰。无扰信道是一种理想信道，可以作为衡量其它信道特性的参考。 有扰信道：信道输入/输出之间的关系是一种统计依存的关系，信道上存在干扰或噪声，或两者都有。实际的通信信道几乎都是有扰信道。 3.1 信道的数学模型和分类 (5)信道按其输入/输出之间关系的记忆性来划分， 无记忆信道：在某一时刻信道的输出消息仅与当时的信道输入消息有关，而与前面时刻的信道输入或输出消息无关。信道的统计特性可以用信道传输概率的集合{P(y|x)}来描述。 有记忆信道：在任意时刻信道的输出消息不仅与当时的信道输入消息有关，还与以前时刻的信道输入消息和（或）输出消息有关。实际信道一般都是有记忆的。 3.1 信道的数学模型和分类 (6)信道按其统计特性来划分， 恒参信道：信道的统计特性不随时间变化，又称为平稳信道。 变参信道：信道的统计特性随时间变化。 3.2 单符号离散信道的信道容量 3.2.1 信道容量的定义 设单符号离散信道输入为X?{x1, x2, …, xi, …, xn } 相应的输出Y?{ y1, y2, …, yi, …, ym } 3.2 单符号离散信道的信道容量 信道统计特性由条件概率p(yj|xi)，有时我们把p(yj|xi)称为信道转移概率或信道传递概率。常用信道转移概率矩阵，简称信道矩阵，来表示信道特性。若行表示输入X，列表示输出Y，信道矩阵为n行m列矩阵。 3.2 单符号离散信道的信道容量 反过来，已知输出Y，考察输入X的统计变化规律，即用p(xi|yj)描述信道两端的相互依赖关系。 p(xi|yj)称为反信道转移概率，所构成的矩阵为反信道矩阵。 3.2 单符号离散信道的信道容量 如果信源熵为H(X)，我们希望在信道的输出端接收的信息量就是H(X)。但由于干扰的存在，一般情况下在输出端只能接收到I(X;Y)，它是平均意思上每传送一个符号流经信道的平均信息量。从这个意思上讲，我们把I(X;Y)理解为信道的信息传输率(信息率)。即 R=I(X;Y) 3.2 单符号离散信道的信道容量 因而，求有扰离散信道上的信息传输率R，实质上就是求平均互信息量I (X ; Y )。 I(X;Y)? H(X) 有扰离散信道的信道容量也是指在不失真传输的条件下，信道所允许的最大信息传输率，即 C = Rmax R = I (X;Y) 3.2 单符号离散信道的信道容量 信道容量C是信道的最大传输能力，是信道自身的特性。能使平均互信息量达到信道容量C的信源称为匹配信源。 I (X; Y)是P(x)和P(y|x)的函数。 P(x)只与具体信源有关；P(y|x)只与信道特性有关，与具体信源无关。 3.2 单符号离散信道的信道容量 平均互信息量与信源和信道特性都有关系，但信道容量应仅与信道特性有关，所以在各种可能的P(x)中，必然能够找到一个分布，使I (X;Y)达到最大值I (X;Y)max，这里的I (X;Y)max就是信道容量，通常写成如下形式： 其单位是比特/信道符号。 3.2 单符号离散信道的信道容量 若信道平均传输一个符号需要t秒钟，则