信息论复习new.pptVIP

《信息论》复习 第二章 1、熟悉单符号离散信源的数学模型； 2、信息的度量和信源熵 （1）掌握自信息量、联合自信息量和条件自信息量的计算和性质； （2）掌握信息熵、信道疑义度、噪声熵和联合熵的计算； 3、掌握信源熵的基本性质和定理。 4、熟悉离散无记忆的扩展信源的描述方式；掌握扩展信源熵的计算方法； 5、离散平稳信源 （1）理解离散平稳信源的数学定义； （2）掌握二维离散平稳信源熵的计算方法； （3）理解离散平稳信源的几个性质，特别是极限熵的定义式和处理方法； 6、马尔可夫信源 （1）理解马尔可夫信源的定义，熟悉数学模型和状态转移图； 课外阅读随机过程关于” 马尔可夫信源”的介绍 （2）掌握马尔可夫信源熵的计算方法； 总结解题步骤 7、理解信源的相关性和剩余度。 第二章 重点内容： 单符号离散信源熵、条件熵、联合熵及信源熵的基本性质和定理；离散无记忆离散信源熵的度量；离散平稳信源熵的度量；马尔科夫信源的信源熵；信源的剩余度的计算。 难点内容： 几种熵的物理意义及其相互关系；平稳信源熵的性质以及极限熵的定义；马尔科夫信源熵的计算。 典型题型： ?? 计算单符号离散信源的信源熵,条件熵,联合熵; ?? 计算无记忆离散信源的熵; ?? 计算马尔可夫信源的稳态概率和极限熵. 第三章 1、理解信道的描述和分类； 2、熟悉信道的数学模型和信道矩阵； 3、掌握平均互信息量的计算和性质；理解