信道与信道容量.pptxVIP

1信道与信道容量第三章

23.1信道分类和表示参数3.2离散单个符号信道及其容量3.3离散序列信道及其容量3.4连续信道及其容量内容

3信道输出Y=(Y1,Y2…Yj,…),Yj∈{b1…bm}设信道的输入X=(X1,X2…Xi,…),Xi∈{a1…an}描述输入/输出的统计依赖关系,反映信道统计关系信道转移概率矩阵p(Y|X)：信道XYp(Y|X)

4无干扰(无噪声)信道无干扰(无噪声)信道信道的输出信号Y与输入信号X之间有确定的关系Y=f(X),已知X后就确知Y转移概率:

5有干扰无记忆信道有干扰无记忆信道信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足:有干扰无记忆信道可分为:二进制离散信道离散无记忆信道离散输入、连续输出信道波形信道

6离散无记忆信道DMC信道输入是n元符号X∈{a1,a2,…,an}信道输出是m元符号Y∈{b1,b2,…,bm}转移矩阵已知X,输出Y统计特性a1a2anb1b2bm::::::p11p12p21p22pnm

73.2离散单个符号信道及其容量

8信道容量信道的信息传输率就是平均互信息平均互信息I(X;Y)：接收到符号Y后平均每个符号获得的关于X的信息量。

9信道容量信道容量C：最大的信息传输率单位时间的信道容量：

10信道容量的计算对于一般信道,信道容量计算相当复杂,我们只讨论某些特殊类型的信道：离散信道可分成：无干扰(无噪)信道无嗓无损信道有噪无损信道无噪有损信道有干扰无记忆信道有干扰有记忆信道

11无干扰离散信道010203有噪无损信道(一对多)无噪无损信道无噪有损信道(多对一)

123.2.1对称DMC信道单击此处添加正文。对称离散信道：每一行都是由同一集{p1,p2,…pm}的诸元素不同排列组成——输入对称每一列都是由集{q1,q2,…qn}的诸元素不同排列组成——输出对称对称性:满足对称性,所对应的信道是对称离散信道。

13信道矩阵不具有对称性,因而所对应的信通不是对称离散信道。对称DMC信道

14对称DMC信道若输入符号和输出符号个数相同,都等于n,且信道矩阵为此信道称为强对称信道(均匀信道)信道矩阵中各列之和也等于1

15对称DMC信道对称离散信道的平均互信息为

16对称DMC信道强对称信道的信道容量：上式是对称离散信道能够传输的最大的平均信息量,它只与对称信道矩阵中行矢量{p1,p2,…pm}（第二项为矩阵任一行元素的信息熵）和输出符号集的个数m有关。对称DMC信道的容量：

17BSC信道容量设二进制对称信道的输入概率空间信道矩阵：

*融资项目商业计划书单击此处添加副标题

19BSC信道容量单击此处添加小标题当p固定时,I(X;Y)是ω的型上凸函数。单击此处添加小标题I(X;Y)单击此处添加小标题ω单击此处添加小标题BSC信道容量单击此处添加小标题1-H(p)单击此处添加小标题I(X;Y)对ω存在一个极大值。

20pC当固定信源的概率分布ω时,I(X;Y)是p的型下凸函数。信道无噪声当p=0,C=1－0=1bit=H(X)当p=1/2,信道强噪声BSC信道容量BSC信道容量

21信道容量定理：平均互信息I(X;Y)是信道传递概率p(bj|ai)的型凸函数。信道容量是完全描述信道特性的参量,是信道能够传输的最大信息量。定理：给定转移概率矩阵P后,平均互信息I(X;Y)是输入信源的概率分布p(ai)的型上凸函数。

22离散无记忆模K加性噪声信道X是信道输入，Z是信道干扰，Y为信道输出，取值空间均为同一整数集，X=Z=Y={0,1,…,K-1},Y=XZmodK。该信道称为离散无记忆模K加性噪声信道。计算机系统和数字通信系统中有些情况下可用该模型描述。由信道的对称性及可得该类信道的容量为XZY

23011例3-3离散无记忆模K加性噪声信道Y=XZmodK，X和Y均取值于{0,1,…,K-1},求该信道容量。该信道可用右图表示，可明显看出对称DMC信道特征，信道转移概率矩阵为012K-1

24利用离散无记忆模K加性噪声信道容量公式可得

25BSC信道容量当信源输入符号的速率为rs(符/秒),信道容量进入信道输入端的信息速率实际信息传输速率Rt为等概分布

26例BSC信道如图,rs=1000符号/秒,错误传递概率p=0.1求:信道容量?0Y0.1?10.9输入符号等概时有最大信息传输速率信道实际信息传输速率0.10.910x

27串联信道YpX0串联信道的转移矩阵为:1-p11-pp0Z1-p例3-4设有两个