《信息论与编码基础》课件 3-信源模型及信息熵.ppt

§2离散信源§2.1离散信源的信息熵§2.2熵的基本性质§2.3信源的相关性与剩余度信源的数学模型及分类信息熵联合熵与条件熵

§2.1离散信源的信息熵一、信源的数学模型与分类概率空间:样本空间概率函数

例1：P(a1)＋P(a2)＝1例2：§2.1离散信源的信息熵一、信源的数学模型与分类抛硬币音频信源

§2.1离散信源的信息熵一、信源的数学模型与分类或概率空间:

§2.1离散信源的信息熵信源离散无记忆信源（DMS）离散有记忆信源离散信源连续信源简单DMS：复杂信源：时间离散的连续源随机波形源简单连续信源：一、信源的数学模型与分类D.S07314