信息工程基础1.ppt

信息工程基础;教材及参考书; 目录; 第一章 绪论;1.1 信息的概念;;;1.2 信息论的研究对象、目的和内容;;;;第二章 信息的度量 ;;2.1 自信息和互信息;;;2.1.2 互信息 ;2.2 平均自信息 ;;2.2.2 熵函数的性质 ;;;;;2.2.3 联合熵与条件熵 ;;各类熵之间的关系：; 2.3 平均互信息; 2.3.2 平均互信息的性质 ;;2.3.3 数据处理定理; ;第三章 信源及信息熵 ;;3.1 信源的分类及其数学模型;;3.2 离散单符号信源 ;3.3 离散多符号信源 ;;3.3.1 离散平稳无记忆信源 ;3.3.2 离散平稳有记忆信源 ;;3.3.3 马尔可夫信源;;;3.3.4 信源的相关性和剩余度 ;;*3.4 连续信源 ;;3.4.2 连续信源的最大熵;3.4.3 连续信源的熵功率 ;第四章 信道及其信道容量 ;;4.1 信道的分类 ;;;4.2 离散单符号信道及其信道容量 ;;;;4.2.2 信道容量的概念 ; ;;4.2.3 几种特殊信道的信道容量;;;4.2.4 离散对称信道的信道容量;;;;4.2.5 一般离散信道的信道容量 ;;;;4.2.6 信道容量定理 ;;4.3 离散多符号信道及其信道容量 ;;;4. 4 组合信道及其信道容量 ;4.4.1 独立并联信道 ;4.4