信息论基础2010-第四节.pdfVIP

信息论基础 浙江大学信息与通信工程研究所 张朝阳 2010夏学期 第四章 信道、信道容量及 信道编码定理 引言  通信的数学理论：功率与带宽等通信资源的效用 极限  随机编码、联合（典型列）译码、注水法则、特 征波束赋型等重要思想方法  具体通信体制（OFDM/MIMO ）的理论基础 信道及其分类  物理信道：噪声信道、干扰信道、衰落信道、存储信道…  按输入/输出信号在幅度和时间上取值的连续性：  幅度离散，时间离散信道；  幅度连续，时间离散信道；  幅度连续，时间连续信道；  幅度离散，时间连续信道。  按输入/输出之间的记忆性  有记忆信道  无记忆信道  按其输入/输出信号的关系的确定性：  确定信道  随机信道 信道的抽象模型 输入/输出统计关系 输入量 输出量 X 信道 Y （随机过程） （随机过程） ^ W xn y n W n n 信道编码 信道{P(y /x )} 信道编码 N 离散无记忆信道 p N (y N / x N ) ∏p (y n | xn ), ∀N n 1 p y j x k p y j x k n m 平稳信道 ( n | n ) ( m | m ), ∀ , 记为： { ;p (y | x ); } 信道（互信息）容量 1 C lim max I (X X X ;Y Y Y ) n→∞ n Q(x n ) 1 2 n 1 2 n 平均每次利用信道，在输入和输出符号之间所 能相互提供的互信息的最大值的极限 离散无记忆信道（DMC）容量（I） 对于离散无记忆信道（DMC ） n I X X X Y Y Y ≤ I X Y ( 1 2  ; 1 2  ) ∑ ( ;