第四章 信道讲解.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * 信道编码定理 [定理] 对离散平稳无记忆信道，其容量为C，输入序列长度为L。则，只要实际信息率RC，就必可找到一种编码：当L足够长时，有Pe ? 。 反之，若实际信息率RC，则对任何编码， Pe必大于零 [说明] ① 前者为正定理，后者为逆定理 ② 给出了信息传输率的极限 只要RC，必可无失真传输 若RC，必为有失真传输 ③ 存在性定理 译码方案——译码时所用的准则 在一般的信息传输系统中，信宿收到的集合Y不一定与信源发出的信息集合X相同，而信宿需要知道此时信源发出的是哪一个信源信息，故需要把信宿收到的消息恢复成相对应的信源消息。这个消息恢复过程称为译码，用公式表示为X’＝g(Y) 通常采用的译码方案是最大后验准则：把信道输出符号消息yj译成具有最大后验概率P(x*|yj)的那个信道输入符号消息x* 用数学公式表示：若 P(x*|yj) P(xi|yj) ，对所有的i＝1，2，…，M(但除掉x*所对应的下标i)，则把yj译成x*，此准则使消息的错误传输概率最小 例：已知一个信源的概率空间为 所使用的信道的信道矩阵 。找出能使错误传输概率最小的译码方案，并求出错误传输概率 解：信道传输特性如图 X，P(X)＝ X1， X2， X3 1/2， 1/4， 1/4 由公式 P(xy)＝P(x)·P(y|x)可得矩阵形式表示的联合概率分布: 再由公式 可得行矩阵形式表示的Y中三个消息的概率分布： 再由公式 可得矩阵形式表示的后验概率分布: 收到y1后对x1，x2，x3的后验概率分布为： P(x1|y1)＝2/3 P(x2|y1)＝1/3 P(x3|y1)＝0 比较大小后，按最大后验概率准则，应把信宿收到的y1译成x1 同理，信宿收到y2后对x1，x2，x3中以P(x3|y2)最大，应把y2译成x3 信宿收到y3后对x1，x2，x3中以P(x3|y3)最大，应把y3译成x3 所以此准则的译码方案为：g(y1)＝x1 g(y2)＝x3 g(y3)＝x3 总的来说，各个消息的传输和译码过程如下： ①信源发出消息x1，信宿收到y1，译码器译成x1 (正确传输) ②信源发出消息x2，信宿收到y1，译码器译成x1 （不正确传输） ③信源发出消息x3，信宿收到y2或y3，译码器译成x3 (正确传输) 采用此准则的译码方案后，这个消息传输系统的正确传输概率PC为： PC ＝ P(x1)+ P(x3)＝1/2 + 1/4＝3/4 错误传输概率PE为: PE ＝ P(x2)＝1/4 译码中两种特殊情况： ①若信道的输入消息以等概率分布，即P(xi)＝1/M，这时对于某个收到的消息yj而言，当信道的传输概率P(yj|xi)为最大时，其相应的后验概率P(xi|yj)也是最大。所以在信道输入消息以等概率分布的条件下，可以从最大信道传输概率P(yj|x*)直接判定此时信源发出的消息是x*。这称为最大似然译码准则。当信源X概率空间未知时，可用此准则 ②若传输信道对同一个输出消息yj的各个P(xi|yj)(其中i＝1，2，…，M)都相等，但存在某个输入消息x*的出现概率P(x*)为最大，这样就可以把yj直接译成x* 对于K重符号序列消息的译码方案与单符号消息类似 连续信道及其容量 （一）连续单消息信道及其容量 仅讨论两类情况 高斯信道 线性迭加干扰信道 1 高斯信道 回顾：高斯信源熵 [结论] 熵值 只与方差有关，与均值m无关。 其中： I(X;Y)=HC(Y)-HC(Y/X) 1 高斯信道 （续） 根据平均功率最大熵定理：只有当信道输出Y正态分布时熵最大，其概率密度函数为： pY(y)=N(0,P) 由于信道输入X与噪声独立，且y=x+n 功率可以相加，得：P=S+σ2 S为信道输入的平均功率值。 2 一般迭加性干扰信道 雷电、工业干扰、其它脉冲干扰属迭加性干扰，它们是非高斯型分布。有以下定理： 定理：对迭加性连续信道，收到平均功率（方差）为σ2的非高斯干扰影响时，当信道输出平均功率P一定时，其容量上下界为： 证：上界显见，下面给出下界证明。 主要思路利用正态性与Jen