信道模型信道容量.pptVIP

无噪信道无噪信道的一个输出对应着多个互不相交的输入，如右图所示。11111111无噪信道的信道容量无损无噪信道无损无噪信道的输入和输出是一一对应关系，如右图所示。无损无噪信道几种特殊离散信道的信道容量离散无噪信道的信道容量具有一一对应关系的无噪信道具有扩展性能的无噪信道具有归并性能的无噪信道强对称离散信道的信道容量对称离散信道的信道容量准对称离散信道的信道容量3对称信道21离散输入对称信道离散输出对称信道信道矩阵具有很强对称性的特殊信道离散对称信道定义：若一个离散无记忆信道的信道矩阵中，每一行都是其它行的同一组元素的不同排列，则称此类信道为离散输入对称信道。矩阵的行是排列的。离散输入对称信道矩阵的列是排列的。02定义：若一个离散无记忆信道的信道矩阵中，每一列都是其他列的同一组元素的不同排列，则称该类信道为离散输出对称信道。01离散输出对称信道离散准对称信道、对称信道定义：若一个离散无记忆信道的信道矩阵中，按照信道的输出集Y(即信道矩阵的列)可以将信道划分成s个子集(子矩阵)，每个子矩阵中的每一行(列)都是其它行(列)的同一组元素的不同排列，则称这类信道为离散准对称信道。矩阵的行是可排列的，列不可排列。子矩阵具有可排列性。当划分的子集只有一个时，信道是关于输入和输出对称的，这类信道称为对称信道。矩阵具有可排列性：矩阵的行和列都是可排列的。离散（准）对称信道—举例定理定理：若一个离散对称信道具有n个输入符号，m个输出符号，则当输入为等概分布时，达到信道容量，且定理证明01引理：对于对称信道，只有当信道输入分布为等概分布时，输出分布才能为等概分布。根据引理，对称信道的最佳输入分布为等概分布。02定理证明（续）例如果一个n行m列单符号离散信道矩阵[P]的行是可排列的，列不可排列。矩阵中的m列可分成s个不相交的子集分别有m1,m2,...,ms个元素（m1+m2+...+ms=m），n行mk,(k=1,2,...,s)列组成的子矩阵[P]k具有可排列性。该准对称信道的容量为：实现离散准对称无记忆信道信道容量的输入分布为等概分布。定理(准对称信道)准对称信道准对称信道第3章信道容量3.1信道的数学模型和分类信道是信息传输的媒介或通道。信道可以看成是一个变换器，它将输入事件X变换成输出事件Y。X与Y之间是统计依赖关系。信道的数学模型：{XP(y/x)Y}信道XY干扰离散信道：输入离散，输出离散半连续信道：输入和输出一个离散一个连续连续信道：输入连续，输出连续时间离散的连续信道：输入和输出分别为有限个或可数无限个取自连续集的序列根据输入输出事件的时间特性和集合的特点：信道的分类１－按时间特性根据信道的输入和输出个数：两端信道（两用户信道）：输入和输出均只有一个事件集；多端信道（多用户信道）：输入和输出中至少有一个具有两个或两个以上的事件集。信道的分类２－按输入输出个数广播信道：单一输入，多个输出。多元接入信道：多个不同信源的信息经编码后送入统一信道传输，接收端译码后再送给不同的信宿。如在卫星通信系统中的应用。根据信道接入的不同：信道的分类３－按信道接入恒参信道：统计特性不随时间变化；1随参信道：统计特性随时间变化。2根据信道的统计特性：信道的分类４－按统计特性根据信道的记忆特性有记忆信道：信道输出不仅与当前输入有关，还与过去的输入有关。无记忆信道：信道输出仅与当前的输入有关；信道的分类５－按记忆特性定义：原始信源熵与信道疑义度之差称为平均互信息0102含义：接收到输出符号集Y以后，平均每个符号获得的关于X的信息量。平均互信息平均互信息量等于X，Y的熵与它们的联合熵之差，即I(X;Y)=H(X)+H(Y)—H(X,Y)平均互信息量总大于或等于0，即I(X;Y)=I(Y;X)≥0X与X的平均互信息量等于X的熵，即I(X;X)=H(X)12345对于固定的信道，平均互信息I(X;Y)是输入信源的概率分布p(x)的上凸函数。对于固定的信源分布，平均互信息量I(X;Y)是信道传递概率p(y/x)的下凸函数。平均互信息量例3.2.3分析二元对称信道考虑二元信道例3.2.3固定二元对称信道的平均互信息二元对称信道的平均互信息为：定理：当信道固定，即p为一个固定常数时，可得出I(X;Y)是信源分布w的上凸函数，如下图所示（固定二元对称信道的平均互信息）例3.2.3固定二元对称信道的平均互信息图示曲线表明，对于固定的信道，输入符号