信息论与编码_信道容量讲解.ppt

31 ( ) ( ) ( / ) n j i j i i p b p a p b a ? ? ( ) ( / ) ( ) j j i i dp b p b a dp a ? e x x log ln log ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? n i m j n i i i j i j i m j j j i a p a b p a b p a p b p b p a p 1 1 1 1 1 ) ( ) / ( log ) / ( ) ( ) ( log ) ( ) ( ? 32 ( / )log ( ) ( / )log ( ) ( / )log ( / ) 0 m j i j j i j i m j i j i j p b a p b p b a e p a p b a p b a ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 1 1 ( / )log ( / ) ( / )log ( ) log 0 m m j i j i j i j j j p b a p b a p b a p b e ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 33 1 1 ( / )log ( / ) ( / )log ( ) log m j i j i j m j i j j p b a p b a p b a p b e ? ? ? ? ? ? ? ? ? (1) 两边乘 p ( a i ) ，并求和，则有： 34 2 1 1 2 1 1 2 ( ) ( )log ( ) ( ) ( )log ( ) log n m i j i j i i j n m i j i j i j p a p b a p b a p a p b a p b e ? ? ? ? ? ? ? ?? ?? ? 2 ( ; ) log I X Y e ? ? ? 2 log C e ? ? ? (2) 35 ( / )log ( / ) ( / )log ( ) ( / )[log ( ) ] m j i j i j m j i j j m j i j j p b a p b a p b a p b C p b a p b C ? ? ? ? ? ? ? 将（ 2 ）代入（ 1 ），则有： （ 3 ） 36 log ( ) j j p b C ? ? 令 ? （ 4 ） ( / )log ( / ) ( / ) m j i j i j m j j i j p b a p b a p b a ? ? ? ? 则（ 3 ）变为： 37 : 2 2 (4) log ( ) ( ) 2 1 2 2 log j j j m j j j j m m C j j j m C j p b C p b C ? ? ? ? ? ? ? ? ? ? ? ? 由 求出 ? ? ? ? ? （ 5 ） （ 6 ） （ 7 ） 38 1 (5) ( ) 2 ( ) ( ) ( / ) ( ) j C j n j i j i i i p b p b p a p b a p a ? ? ? ? ? ? 由 求出 由 求出 （ 8 ） （ 9 ） 总结 C 的求法，过程如下： 1 第 3 章 信道容量 王永容 机械与电气工程学院 wangyr416@126.com 信息论与编码 Information and Coding Theory 2 第 3 章 信道容量 3.1 信道基本概念 3.2 离散无记忆信道容量 3.3 组合信道的容量 3.4 连续无记忆信道的容量 3.5 波形信道的容量 3 3.1 信道基本概念 ? 信道物理模型 ? 输入消息 X ? 输出消息 Y ? 干扰 X Y 信道 干扰 4 3.1 信道基本概念 ? 信道分类 ? 根据信道用户的多少 ? 单用户信道 ? 多用户信道 ? 根据信道输入端与输出端的关系 ? 无反馈信道 ? 有反馈信道 ? 根据信道的参数与时间的关系 ? 固定参数信道 ? 时变参数信道 5 3.1 信道基本概念 ? 根据输入与输出 随机变量的取值分类 ? 离散信道 ( 数字信道 : 时间、取值离散 ) ? 连续信道 ( 模拟信道 : 取值连续 ) ? 半连续信道 ( 时间、取值一个离散，另一个连续 ) ?