陈运 信息论与编码 第三章 信道容量.pptVIP

§3.1 信道的数学模型和分类 §3.2 单符号离散信道的信道容量 §3.2.1 信道容量的定义 §3.2.2 几种特殊离散信道的容量 §3.2 .3 离散信道容量的一般计算方法 §3.2.1 信道容量的定义 §3.2 单符号离散信道的信道容量 §3.2.1 信道容量的定义 §3.2.2 几种特殊离散信道的容量 §3.2 .3 离散信道容量的一般计算方法 §3.2.2 几种特殊离散信道的容量 一、离散无噪信道 1、一一对应的无噪信道 §3.2 单符号离散信道 §3.2.1 信道容量的定义 §3.2.2 几种特殊离散信道的容量 § 3.2.3 离散信道容量的一般计算方法 §3.3.1 多符号离散信道的数学模型 §3.3.2 离散无记忆信道的N次扩展信道和独立并联信道的信道容量 §3.4 多用户信道 §3.4 多用户信道 §3.4.2 广播信道 §3.4 多用户信道 §3.4.3 相关信源的多用户信道 §3.6 信道编码定理 §3.4.1 多址接入信道 多入单出信道 信源1 信源2 编码器1 编码器2 信道 译码 二址接入信道模型 R2 C2 0 C1 C12 C1+C2 R1 §3.4.1 多址接入信道 §3.4.2 广播信道 §3.4 .3 相关信源的多用户信道 广播信道 具有单个输入和多个输出的信道。 信源1 编码器 信道 信源2 译码器2 译码器1 图3.4.4 单输入双输出广播信道模型 退化广播信道（串联） 编码器 信道1 信道2 图3.4.5 退化的广播信道模型 构成马尔可夫链 不变 ，保持 最大 §3.4.1 多址接入信道 §3.4.2 广播信道 §3.4.3 相关信源的多用户信道 模型1 信源 编码器1 编码器2 信道1 信道2 译码器1 译码器2 相关信源多用户信道 　　假设此时将矩阵的列分为S个子集，每个子集的元素个数分别是m1，m2，……，ms。 §3.2.3 离散信道容量的一般计算方法 对一般离散信道而言，求信道容量，就是在固定信道的条件下，对所有可能的输入概率分布{p(xi)}，求平均互信息的极大值。采用拉各朗日乘子法来计算。 (1) 两边乘p(ai)，并求和，则有： (2) 将（2）代入（1），则有： （3） （4） 则（3）变为： （5） （6） （7） 总结C的求法，过程如下： （8） （9） 例：信道矩阵如下，求C。 1 2 3 4 §3.1 信道的数学模型和分类 §3.2 单符号离散信道 §3.3 多符号离散信道 §3.4 多用户信道 §3.5 信道编码定理 §3.3 多符号离散信道 §3.3.1 多符号离散信道的数学模型 §3.3.2 离散无记忆信道的N次扩展信道和独立并联信道的信道容量 多符号离散信道 多符号信源通过离散信道传输形成多符号离散信道。 输入 输出 §3.3 多符号离散信道 §3.3.1 多符号离散信道的数学模型 §3.3.2 离散无记忆信道的N次扩展信道和独立并联信道的信道容量 无记忆：YK仅与XK有关 1 Y N Y (a) ? ? ? ? ? = = = = = - ￡ \ ￡ - = - = N K K K N K K N K K N N K K K N N K K K X Y H Y H Y X I Y H Y Y Y H X Y H Y Y Y H X Y H Y H Y X I 1 1 1 2 1 1 2 1 1 ) / ( ) ( ) ; ( ) ( ) .. ( ) / ( ) .. ( ) / ( ) ( ) ; ( r r r r r §3.1 信道的数学模型和分类 §3.2 单符号离散信道 §3.3 多符号离散信道 §3.4 多用户信道 §3.5 信道编码定理 §3.4.1 多址接入信道 §3.4.2 广播信道 §3.4 .3 相关信源的多用户信道 * * 第1章：概述 第2章：信源熵 第3章：信道容量 第4章：信息率失真函数 第5章：信源编码 第6章：信道编码 第7章：密码体制的安全性测度 §3.1 信道容量的数学模型和分类 §3.2 单符号离散信源 §3.3 多符号离散信源 §3.4 多用户信道 §3.5 信道编码定理 P(Y/X) x Y 信道的数学模型： {X P(Y/X) Y} 信道的分类 无干扰信道 有干扰信道 信道的分类 有记忆信道 无记忆信道 信道的分类 单符号 信道 多符号 信道 信道的分类 单用户信道 多用户信道 信道的分类 连续信道 半离散信道 离散信道 §3.1 信道的数学模型和分类 §3.2 单符号离散信道 §3.3 多符号离散信道 §3.4 多用户信道 §3.5 信道编码定理 p(y