3章信道与信道容量.ppt

普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 第3章信道与信道容量 信道的基本概念 离散单个符号信道及其容量 离散序列信道及其容量 连续信道及其容量 信道 信道：信息传输的通道 在通信中,信道按其物理组成常被分成微波信道、光纤信道、电缆信道等。信号在这些信道中传输的过程遵循不同的物理规律, 通信技术必须研究信号在这些信道中传输时的特性 信息论不研究信号在信道中传输的物理过程,并假定信道的传输特性已知,这样信息论就可以抽象地将信道用下图所示的模型来描述。 3.1信道的基本概念 3.1.1 信道分类 用户数量：单用户、多用户 输入端和输出端关系：无反馈、有反馈 信道参数与时间的关系：固参、时变参 噪声种类： 随机差错、突发差错 输入输出特点：离散、连续、半离散半连续、 波形信道 5.按输入/输出信号在幅度和时间上的取值: 离散信道： 输入和输出的随机序列取值都是离散的信道 连续信道： 输入和输出的随机序列取值在幅度上连续、时间上离散的信道 半离散(半连续)信道： 输入变量取值离散而输出变量取值连续 输入变量取值连续而输出变量取值离散 波形信道： 信道的输入和输出在时间上和幅度上均连续的随机信号。 6.按输入/输出之间关系的记忆性来划分： 无记忆信道： 信道的输出只与信道该时刻的输入有关,而与其他时刻的输入无关 有记忆信道： 信道的输出不但与信道现时的输入有关而且还与以前时刻的输入有关 7.按输入／输出信号之间的关系是否是确定关系: 无干扰信道： 输入/输出符号之间有确定的一一对应关系 有干扰信道： 输入/输出之间关系是一种统计依存的关系 输入/输出的统计关系： 离散无记忆信道： 用条件概率矩阵来描述。 离散有记忆信道： 可像有记忆信源中那样引入状态的概念。 设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an} 输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm} 信道转移概率矩阵p(Y|X)： 描述输入/输出的统计依赖关系,反映信道统计关系 （1）无干扰(无噪声)信道 无干扰(无噪声)信道 信道的输出信号Y与输入信号X之间有确定的关系Y=f (X),已知X后就确知Y 转移概率: （2）有干扰无记忆信道 有干扰无记忆信道 信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足: 二进制离散信道BSC 输入符号X取值{0,1}； 输出符号Y取值{0,1} 很重要的一种特殊信道 信道转移概率： p(0|0) = 1－p p(1|1) = 1－p p(0|1) = p p(1|0) = p 2) 离散无记忆信道（DMC） 转移概率矩阵 P:转移概率矩阵 已知X,信道输出Y表现出来的统计特性 完全描述了信道的统计特性,其中有些概率是信道干扰引起的错误概率,有些是正确传输的概率 3) 离散输入、连续输出信道 4) 波形信道 （3）有干扰有记忆信道（略） 说明： 设计和分析离散信道编、解码器的性能，从工程角度出发，最常用的是DMC信道模型或其简化形式BSC信道模型； 若分析性能的理论极限，则多选用离散输入、连续输出信道模型； 如果我们是想要设计和分析数字调制器和解调器的性能，则可采用波形信道模型。 本书的主题是编、解码，因此主要使用DMC信道模型。 3.1.3 信道容量的定义 我们研究信道的目的是要讨论信道中平均每个符号所能传送的信息量,即信道的信息传输率R 平均互信息I (X;Y)： 接收到符号Y后平均每个符号获得的关于X的信息量。 信道容量C： 最大的信息传输率 3.2离散单个符号信道及其容量 信息传输率 信道在单位时间内平均传输的信息量定义为信息传输速率 R=I(X;Y)=H(X)－H(X/Y) 比特/符号 Rt=I(X;Y)/t 比特/秒 信道容量 比特/符号（bits/symbol） 3.2离散单个符号信道及其容量 3.2.1 无干扰离散信道的信道容量 3.2.1 无干扰离散信道 设信道的输入X∈A={a1 … an},输出Y∈B={b1 … bm} 无噪无损信道 输入和输出符号之间有确定的一一对应关系 无干扰离散信道 无噪无损信道 无干扰离散信道 无噪无损信道 由 无干扰离散信道 无噪有损信道 多个输入变成一个输出(n＞m) 无干扰离散信道 无噪有损信道 多个输入变成一个输出(n＞m) 无干扰离散信道 有噪无损信道 一个输入对应多个输出(n＜m) 无干扰离散信道 有噪无损信道 一个输入对应多个输出(n＜m) 无干扰离散信道 无噪无损信道：X、Y一一对应 3.2.2