信道与信道容量幻灯片.ppt

3.3离散序列信道及其容量 离散无记忆序列信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 1 1 1 1 1 进一步信道是平稳的 3.3离散序列信道及其容量 离散无记忆序列信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 1 1 1 1 1 如果信道无记忆 如果输入矢量X中的各个分量相互独立 当信道平稳时CL=LC1，一般情况下，I(X;Y) ? LC1 3.3离散序列信道及其容量 扩展信道 如果对离散单符号信道进行L次扩展，就形成了L次离散无记忆序列信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 1 1 1 1 1 BSC的二次扩展信道 X?{00,01,10,11}，Y?{00,01,10,11}，二次扩展无记忆信道的序列转移概率p(00/00)=p(0/0)p(0/0)=(1-p)2，p(01/00)=p(0/0)p(1/0)=p(1-p)，p(10/00)=p(1/0)p(0/0)=p(1-p)，p(11/00)=p(1/0)p(1/0)=p2 00 10 11 01 00 01 10 11 3.3离散序列信道及其容量 扩展信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 1 1 1 1 若p＝0.1，则C2＝2－0.938＝1.062比特/序列 3.3离散序列信道及其容量 独立并联信道 序列的转移概率p(Y1Y2…YL/X1X2…XL)=p(Y1/X1)p(Y2/X2)…p(YL/XL) 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 1 1 1 1 X1 p(Y1/X1) Y1 X2 p(Y2/X2) Y2 …… XL p(YL/XL) YL ? 3.4 连续信道及其容量 连续单符号加性信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * x (x?R) p(y/x) y (y?R) 连续单符号信道 n pn(n)＝N(0, ?2) 平均互信息为I(X;Y)＝HC(X)－HC(X/Y) ＝HC(Y)－HC(Y/X) ＝HC(X)＋HC(Y)－HC(XY) 信道容量 噪声是均值为零、方差为?2的加性高斯噪声 3.4 连续信道及其容量 连续单符号加性信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * pY(y)＝N(0,P)，pn(n)＝N(0, ?2)，y=x+n，所以pX(x)＝N(0,S) C＝1/2 log(1+SNR) 信道输入X是均值为零、方差为S的高斯分布随机变量时，信息传输率达到最大值 若是加性的，可以求出信道容量的上下界 3.4 连续信道及其容量 多维无记忆加性连续信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 信道输入随机序列X＝X1X2…XL，输出随机序列Y＝Y1Y2…YL，加性信道有y=x+n，其中n=n1n2…nL 是均值为零的高斯噪声 3.4 连续信道及其容量 连续单符多维无记忆高斯加性信道就可等价成L个独立的并联高斯加性信道号加性信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 比特/L维自由度 因此当且仅当输入随机矢量X中各分量统计独立，且是均值为零、方差为Pl的高斯变量时，才能达到此信道容量 3.4 连续信道及其容量 讨论 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 均值为零、方差相同 均值为零、方差不同，总平均功率受限 3.4 连续信道及其容量 讨论 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 各个时刻的信道输出功率相等设为常数? 3.4 连续信道及其容量 eg有一并联高斯加性信道，各子信道噪声方差为 ＝0.1， ＝0.2， ＝0.3， ＝0.4， ＝0.5， ＝0.6， ＝0.7， ＝0.8， ＝0.9， ＝1.0 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 3.4 连续信道及其容量 限时限频限功率加性高斯白噪声信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 波形信道的平均互信息为 信道容量为 3.4 连续信道及其容量 限时限频限功率加性高斯白噪声信道 普通高等教育“十五”国家级规划教材《信息论与编码》 曹雪虹等编著 * 限频(W)高斯白噪声过程可分解L＝2WtB维统计独立的随机序列