离散信道及其容量.pptVIP

第4章 离散信道及其容量 信道是信号的传输媒介，是传送信息的 物理通道。 研究信道的目的主要是为了解决信息如 何有效、可靠地传输的问题。 本章主要内容： 信道模型及其分类 离散无记忆信道 离散无记忆扩展信道 信道的组合 离散无记忆信道容量 §4.1 信道模型及其分类 主要内容: 1.信道模型 2.信道的分类 1.信道模型 图4.1.1 信道模型 2.信道的分类 图4.1.2 数字通信系统模型与信道划分 §4.2 离散无记忆信道 主要内容： 1. 离散信道的数学模型 2. 单符号离散信道 3 . 信道疑义度 4 . 平均互信息 4.2.1 离散信道的数学模型 信道模型表示为 其中， 　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　 离散无记忆信道 设信道的输入和输出分别为长为N的序列，若信道的转移概率满足 　　　　　　　　　 　　 (4.2.1) 　 则称为此信道为离散无记忆信道（DMC），其数 学模型为： 平稳（或恒参）信道 如果对于任意正整数m、n，和 离散无记忆信道的转移概率满足： (4.2.2)　 则称为平稳或恒参信道。 平稳信道的模型 　　　　 4.2.2? 单符号离散信道 定义：用一维条件概率描述的信道为单符号离散信道。其中，信道的输入X与输出Y都是一维随机变量集合，x∈X，取自字母表 　　　 , y∈Y，取自字母表 ,信道转移概率简记为： (4.2.3) 将转移概率表示成矩阵形式， 称为信道转移概率矩阵，形式如下： (4.2.4) 　　 　　　其中　　 例4.2.1二元对称信道（BSC），输入与输出符号 集分别为 ，信道转移概率p(y|x)满 足 ， ε称为 错误率。 写出信道的转移概率矩阵并画出转移概 率图。 解：转移概率矩阵为 转移概率图如图4.2.1所示 图4.2.1 二元对称信道转移概率图　　 例４.2.2二元删除信道：其中A={0,1}, B={0,2,1}，画转移概率图如下，求转移概率矩阵。 图4.2.2 二元删除信道转移概率图 解： 转移概率矩阵： 例 四个等概消息 ， 编成的码字为 ， 当通过二进制对称无记忆信道 传输时， 求: 1）事件 “接收到第一个数字为0”与“发送 ”的 互信息；2）当“接收到第二个数字也为0”时，关 于 的附加信息； 3）当“接收到第三个数字也为 0”时，又增加多少关于 的信息？ 解： 记“0”表示第一个接收数字为