《现代通信原理》 第2版 曹志刚教材 ppt课件 第2章 信息论初步.pptx

第2章信息论初步;§2.1信息的度量;2.1.1消息的统计特性;离散信源的概率空间描述;英文字母的出现概率;汉字电报中数字代码的出现概率;马尔可夫链与转移概率矩阵;连续信源的统计描述;2.1.2离散信源的信息量;信息量的定义;例2-1：二元离散信源的信息量;例2-2：英文字母e和z的信息量;消息串的信息量;例2-3：消息串的信息量计算;联合信息量与互信息量;互信息量的定义;例2-4：互信息量的计算;例2-4（续）：互信息量计算结果;2.1.3离散信源的平均信息量;例2-5：计算信源的平均信息量;有统计关联时的条件平均信息量;例2-6：有统计关联信源的平均信息量;例2-6（续）：计算结