3第三讲平均互信息.pptVIP

* * ?第三讲 3－1 信道和平均互信息 3－2 平均互信息的性质 3－3 数据处理定理 平均互信息 3－1 信道和平均互信息 信息论主要是介绍信息流通系统的构成。信道是构成一般信息流通系统的重要部分。从广义上讲，它承担了信息传输和信息存储的任务，它以信号，特别是电信号的方式载荷着信息。信道是载荷着信息的信号所通过的通道。 信源输出的符号应当首先转化成能在信道中传输或存储的信号形式。 我们的主要目标是使信道中能传送或存储最大的信息。这就是信道容量问题。 按信道输入输出空间的连续与否来分，可分为： 离散信道、连续信道、半连续信道、 时间离散的连续信道、波形信道 1、信道的分类与描述 按输入输出集合的个数来分： 两端（两用户）信道、多端信道（多用户信道）； 按信道的统计特性来分： 恒参信道（平稳）、随参信道、 无记忆信道和有 记忆信道， 码间串扰，衰落信道 按统计特性对输入端有否对称性，可分为： 对称信道和非对称信道。 为了统一描述各种信道，采用条件概率（以输入为条件）来说明输入和输出的关系。条件概率分为三种情况： （1）、无干扰情况。此时输出符号与输入符号之间有 确定