信道与信道容量-演示文件修改版.ppt

BSC信道容量 例BSC信道如图, rs=1000符号/秒,错误传递概率p=0.1 求:信道容量 串联信道 例3-3 设有两个离散BSC信道,串接如图,两个BSC信道的转移矩阵为: 串联信道 求得: 串联信道 由信息不增原理 3.2.3 准对称DMC信道 准对称信道 转移概率矩阵P是输入对称而输出不对称 将信道矩阵P的列划分成若干个互不相交的子集mk,由mk为列组成的矩阵[P]k是对称矩阵。 准对称信道的信道容量 准对称信道 准对称信道的信道容量 例：设信道传递矩阵为 3.2.4 一般DMC信道 定理： 一般离散信道的平均互信息I(X;Y)达到极大值的充分和必要条件是输入概率{p(ai)}必须满足: I (ai;Y) = C 对于所有ai其p(ai)＞0 I (ai;Y) ≤C 对于所有ai其p(ai) = 0 离散序列信道及容量 设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an} 输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm} 定理：若信道的输入和输出分别是L长序列X和Y,且信道是无记忆的,亦即信道传递概率为 离散序列信道及容量 若信源与信道都是无记忆的 例3-7.BSC信道二次扩展 独立并联信道 设有L个信道,它们的输入、输出分别是： X1,X2…XL； Y1,Y2…YL 连续信道及其容量 连续信道的容量不容易计算。 当信道为加性连续信道时,情况简单一些。 设信道的输入和输出信号是随机过程x(t) 和y(t) y(t) = x(t) + n(t) 连续信道及其容量 高斯白噪声加性信道单位时间的信道容量 习题 3-1 3-3 3-5 3-12 * * 当信源输入符号的速率为rs(符/秒),信道容量 实际信息传输速率Rt为 进入信道输入端的信息速率 ? 0 Y 0.9 ? 1 0.1 输入符号等概时有最大信息传输速率 信道实际信息传输速率 X0 0Z Y 1 1 1-p 1-p 1-p p 串联信道的转移矩阵为: 1-p p X0 0Z Y 1 1 在实际通信系统中,信号往往要通过几个环节的传输,或多步的处理,这些传输或处理都可看成是信道,它们串接成一个串联信道。 p p 1-p 1-p 1-p 1-p 信道2 信道m 信道1 … 可以看出,串接的信道越多,其信道容量可能会越小,当串接信道数无限大时,信道容量可能会趋于0 X Y Z 它们满足对称性,所以P1所对应的信道为准对称信道。 准对称信道容量 可以证明，当输入分布为等概率时： 其中n是输入符号集的个数,(p1, p2,…pm)为准对称信道矩阵中的行元素。 设矩阵可划分成r个互不相交的子集。 Nk是第k个子矩阵Pk中行元素之和, Mk是第k个子矩阵Pk中列元素之和。 计算得：N1 =3/4, N2 = 1/4, M1=3/4, M2 = 1/4 将它分成 上式说明： 当信道的平均互信息I(X;Y)达到信道容量时,输入符号概率集{p(ai)}中每一个符号ai对输出端Y提供相同的互信息,只是概率为0的除外。 3.3 离散序列信道及容量 信 道 X Y p(Y|X) 对于无记忆离散序列信道,其信道转移概率为 仅与当前输入有关。若信道是平稳的 则存在 定理：若信道的输入和输出分别是L长序列X和Y,且信源是无记忆的,亦即 则存在 L次扩展信道的信道容量 当信道平稳时: 一般情况下: 00 X 01 10 11 00 01 10 11 Y 转移概率矩阵 2次扩展信道的信道容量 若 p = 0.1 则 C2=(2－0.938)bit/序列 = 1.062bit/序列 C1 = 0.531bit/序列 信 道 信 道 信 道 p(Y1|X1) p(YL|XL) p(Y2|X2) … 每一个信道的输出Yl只与本信道的输入Xl有关,与其他信道的输入、输出都无关。 独立并联信道的信道容量 X1 X2 XL Y1 Y2 YL 3.3 连续信道及其容量 n(t)：信道的加性高斯白噪声 一个受加性高斯白噪声干扰的带限波形信道的容量,由香农(1948)正式定义： 信 道 n(t) x(t) y(t) 这就是著名的香农公式