信息论与编码课件第三章2.ppt

信道与信道容量 第三章 3.1 信道分类和表示参数 3.2 离散单个符号信道及其容量 3.3 离散序列信道及其容量 3.4 连续信道及其容量 离散序列信道及容量 设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an} 输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm} 定理：若信道的输入和输出分别是L长序列X和Y,且信道是无记忆的,亦即信道传递概率为 离散序列信道及容量 若信源与信道都是无记忆的 独立并联信道 设有L个信道,它们的输入、输出分别是： X1,X2…XL； Y1,Y2…YL 连续信道及其容量 连续信道的容量不容易计算。 当信道为加性连续信道时,情况简单一些。 设信道的输入和输出信号是随机过程x(t) 和y(t) y(t) = x(t) + n(t) 连续信道及其容量 高斯白噪声加性信道单位时间的信道容量 习题 3-1 3-3 3-4 3-10 第三章小结 信道分类 有干扰，无干扰 信道条件概率矩阵（转移概率） P(Y|X)或者反信道转移概率P(X|Y) 信道容量 无嗓无损信道 对称DMC信道容量 强对称信道的信道容量 准对称信道的信道容量 BSC信道容量 离散序列无记忆信道容量 独立并联信道容量 高斯白噪声加性信道单位时间的信道容量 * * 内容 3.3 离散序列信道及容量 信 道 X Y p(Y|X) 对于无记忆离散序列信道,其信道转移概率为 仅与当前输入有关。若信道是平稳的 则存在 定理：若信道的输入和输出分别是L长序列X和Y,且信源是无记忆的,亦即 则存在 L次扩展信道的信道容量 当信道平稳时: 00 X 01 10 11 00 01 10 11 Y 例3-7.BSC信道二次扩展转移概率矩阵 2次扩展信道的信道容量 若 p = 0.1 则 C2=(2－0.938)bit/序列 = 1.062bit/序列 C1 = =0.531bit/序列 信 道 信 道 信 道 p(Y1|X1) p(YL|XL) p(Y2|X2) … 每一个信道的输出Yl只与本信道的输入Xl有关,与其他信道的输入、输出都无关。 独立并联信道的信道容量 X1 X2 XL Y1 Y2 YL 3.3 连续信道及其容量 n(t)：信道的加性高斯白噪声 一个受加性高斯白噪声干扰的带限波形信道的容量,由香农(1948)正式定义： 信 道 n(t) x(t) y(t) 这就是著名的香农公式 有嗓无损信道 无嗓有损信道