第四章数据可靠传输和信道编码详解.pptVIP

定理 I(X;Y) 达到信道容量的充要条件是输入分布 p(xi) 满足： p(xi) ≠0 时， I(xi;Y) ＝ C ； p(xi) = 0 时， I(xi;Y) ≤C ， 某些特殊矩阵可以利用这个方法推导得到C。 6. 信道容量定理 定义 若在任意时刻信道的输出只与此时刻信道的输入有关，而与其他时刻的输入和输出无关，则称之为离散无记忆信道，简称为DMC (discrete memoryless channel)。 输入、输出随机序列的长度为N的离散无记忆平稳信道通常称为离散无记忆信道的N次扩展信道。 离散多符号信道 例 二元对称信道的二次扩展信道。 解 二次扩展信道的输入、 输出序列的每一个随机变量 均取值于{0,1}，输入共有 个取值，输出共 有 个取值。根据 可求出 同理可求出其他的转移概率 得到信道矩阵 定理 若信道的输入和输出分别是N长序列X和Y， 且信道是无记忆的，则 当信源也是无记忆时等号成立。 离散多符号信道 对于N次扩展信道，如果信道的输入序列中的每一个随机变量均取值于同一信源符号集并且具有同一种概率分布（取自于同一概率空间），通过相同的信道传送到输出端，则输出序列中的每一个随机变量也取自同一符号集，并且具有相同的概率分布。 由定理,输入、输出序列长为N的离散无记忆信道 当信源无记忆，同时输入序列中的每一个随机变量的分布各自达到最佳输入分布时，N次扩展信道达到信道容量NC。 离散多符号信道的信道容量 待发送的消息比较多时，可能要用两个或多个信道并行地传送，又称积信道。 信道模型 X1 Y1 P(Y1|X1) X2 Y2 P(Y2|X2) XN YN P(YN|XN) 1.独立并联信道 在长距离的通信中，通常需要努力保证传输的真实性，就要有一定数目的通道，再利用中继站级联到一起。中级站的目的是在放大的电平上，再现一个信道的真实输出，这样就可减轻下一信道中噪声的影响。 级联信道的总的信道矩阵等于这两个串联信道的信道矩阵的乘积。 消息会依次地通过几个信道串行地传送，如无线电中继信道。(信道I的输出作为信道II的输入，信道I的输入符号集就是组合信道的输入符号集，信道II的输出符号集就是组合信道的输出符号集。 2. 级联信道(串行信道) 例 设有两个离散二元对称信道，其级联信道如图所示，求级联信道的信道容量。 研究信道，其核心问题就是求信道容量和最佳输入分布。根据定义，求信道容量问题就是求平均互信息量I(X,Y)关于输入概率分布P(X)的最大值问题。 一般来说，这是一个很困难的问题，只有对一些特殊信道，如无噪信道等，才能得到解析解，对于一般信道，必须借助于数值算法。 信道容量 对于一般信道,信道容量计算相当复杂,我们只讨论某些特殊类型的信道： 离散信道可分成： 无干扰(无噪)信道 无嗓无损信道 有噪无损信道 无噪有损信道 有干扰无记忆信道 有干扰有记忆信道 信道容量的计算 1. 无损信道 有噪无损信道，一个输入对应多个输出。(具有扩展性能） 3. 几种特殊信道的信道容量 信 道 Xr p(Y|X) Ys 2. 无噪信道 无噪有损信道，它是一个输出对应多 个输入。（具有归并性能） 几种特殊信道的信道容量 3. 无噪无损信道 输入、输出之间有确定的一一 对应关系。 几种特殊信道的信道容量 4. 离散对称信道的信道容量 定义 若信道矩阵P中每行都是第一行的排列，则称 此信道是行对称信道。 几种特殊信道的信道容量 定义 若信道矩阵中每行都是第一行的排列，并 且每列都是第一列的排列，则称之为对称 信道。 离散对称信道的信道容量 定义 虽然不是对称信道，但是信道矩阵可以按 列分为一些对称的子阵，则称之为准对称 信道。 离散对称信道的信道容量 定义 若r=s，且对于每一个输入符号，正确传输概率 都相等，且错误传输概率 p 均匀地分配到 r-1 个 符号,则称此信道为强对称信道或均匀信道。 离散对称信道的信道容量 强对称信道具备四个特征： 1. 矩阵中的每一行都是第一行的排列；(行对称) 矩阵中的每一列都是第一列的排列。(列对称) 2. 信道输入与输出消息（符号）数相等，即 r=s。 3. 错误分布是均