信道： 对称性.ppt

* 3.2.2 对称离散无记忆信道 判断下列矩阵是否对称DMC信道？ 该矩阵行满足对称性,而列不满足对称性，因而所对应的信道不是对称离散信道，应该是准对称DMC信道。 * 3.2.2 对称离散无记忆信道 对称离散无记忆（DMC）信道的平均互信 息I(X;Y)为 * 3.2.2 对称离散无记忆信道 对称离散无记忆（DMC）信道的信道容量为： 假如输入信号是等概率出现的，那么输出信号的概率也应该是等概率的，此时H(Y)达到最大值； * 3.2.2 对称离散无记忆信道 对称DMC信道的容量： 上式是对称离散信道能够传输的最大的平均信 息量,即信道容量； 它只与对称信道矩阵中行矢量{pi1, pi2,…pim } 和输出符号集的个数m有关。 * 3.2.2 对称离散无记忆信道 例3-1 某对称离散信道的信道矩阵为 信道容量为： * 例3-2 若输入符号和输出符号个数相同,都等于n, 且信道矩阵为 此信道称为强对称信道 信道矩阵中各列之和也等于1 其信道容量的表达式为： * 3.2.2 对称离散无记忆信道 设当n=2时，即为二进制对称信道（BSC） 转移概率矩阵为： 那么此信道的容量为： 当错误概率?=0时，此时信道容量最大为1bit； 当错误概率?=0.5时，此时信道容量最小为0bit。 * 3.2.2 对称离散无记忆信道 二进制离散对称（BSC）信道容量与错误概率? 之间的关系图为： * 普通高等教育“十五”国家级规划教材《信息论与编码》，曹雪虹等编著 普通高等教育“十五”国家级规划教材《信息论与编码》，曹雪虹等编著 信道与信道容量 第三章 * 3.1 信道分类和表示参数 3.2 单符号离散信道及其容量 3.3 离散序列信道及其容量 3.4 连续信道及其容量 内容 * 3.1 信道分类和表示参数 * 3.1 信道的基本概念 信道：传输信息的载体，它是以信号的形 式传输信息、储存信息； 信道容量：能够传输或存储的最大信息量； 信 道 输入量X (随机过程) 输出量Y (随机过程) p(Y|X) * 3.1.1 信道分类 按输入/输出信号在幅度和时间上的取值: 离散信道： 输入和输出的随机序列取值都是离散的信道 连续信道： 输入和输出的随机序列取值都是连续的信道 半离散(半连续)信道： 输入变量取值离散而输出变量取值连续 输入变量取值连续而输出变量取值离散 波形信道： 信道的输入和输出都是一些时间上连续的随机 信号。 * 3.1.1 信道分类 按输入/输出之间关系的记忆性来划分： 无记忆信道： 信道的输出只与信道该时刻的输入有关,而与其他时刻的输入无关 有记忆信道： 信道的输出不但与信道现时的输入有关而且还与以前时刻的输入有关 * 3.1.1 信道分类 按输入／输出信号之间的关系是否是确定关系: 无干扰信道： 输入/输出符号之间有确定的一一对应关系 有干扰信道： 输入/输出之间关系是一种统计依存的关系 * 3.1.1 信道分类 输入/输出的统计关系： 离散无记忆信道： 用条件概率矩阵来描述。 离散有记忆信道： 像马尔科夫信源中那样引入状态的概念。 * 3.1.2 离散无记忆信道参数 设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an} 输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm} 信道转移概率矩阵p(Y|X)： 描述输入/输出的统计依赖关系,反映信道统计关系 信 道 X Y p(Y|X) * 3.1.2 信道参数 1）无干扰(无噪声)信道 信道的输出信号Y与输入信号X之间有确定的关系Y=f (X),已知X后就确知Y 转移概率: * 3.1.2 信道参数 2）有干扰无记忆信道 信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足: * 3.1.2 信道参数 有干扰无记忆信道可分为: 二进制离散信道（BSC） 二元删除信道（BEC） 离散无记忆信道（DMC） 离散输入、连续输出信道 波形信道 * 3.1.2 信道参数 1）二进制离散信道BSC 输入符号X取值{0,1}； 输出符号Y取值{0,1} 信道转移概率： p(0|0) = 1－p p(1|1) = 1－p p(0|1) = p p(1|0) = p 0 1 0 1 p p 1-p 1-p 无错误传输的概率 传输发生错误的概率 * 3.1.2 信道参数 2）二元删除信道BEC 输入符号X取值{0,1}； 输出符号Y取值{0,1,2} 转移矩阵 0 2 1 0 1 p 1-p q