信息论、编码第三章.pptVIP

第3章信道与信道容量;;信道可以是简单的一段电路，也可以是包含了设备的复杂系统。即使在同一个通信系统中，也可以有不同的划分。 研究信道就是研究信道中理论上能够传输或者存储的最大信息量，即信道的容量问题。;3.1.1 信道分类 用户数量：单用户、多用户 输入端和输出端关系：无反馈、有反馈 信道参数与时间的关系：固参、时变参 噪声种类：随机差错、突发差错 输入输出特点：离散、连续、半离散半连续、 波形信道;3.1.2 信道参数;无干扰（无噪声）信道;有干扰无记忆信道 二进制对称信道（BSC）;信道种类;信道种类;信道种类;信道种类;信道种类;3.1.3 信道容量的定义;两个问题：I(X; Y)的最大值是否存在？若存在，怎样才能找到它？ 第一个问题，即信道容量的存在性问题，由以下存在性定理来说明。 定理：给定转移概率矩阵P后，平均互信息I(X;Y)是概率矢量Px的上凸函数。(证明略) 用I(Px)表示I是Px的函数，则在I(Px)曲线上凸点所对应的输入符号概率矢量Px上，I(Px)取得极大值，这个极大值就是信道容量。 第二个问题，信道容量的计算问题。 对于固定信道参数的信道，信道容量是个固定值，但在传输时能否提供最大的传输能力，取决于输入端符号的概率分布。;3.2 离散单个符号信道及其容量;3.2离散单个符号信道及其容量;