第3讲——离散信源的数学模型和其信息测度2.pdfVIP

第三讲 第三讲 离散信源的数学模型 离散信源的数学模型 离散信源的数学模型 及其信息测度( Ⅱ) 及其信息测度( Ⅱ) 及其信息测度( Ⅱ) Review 信源的数学模型 – 随机变量、随机序列 – 随机过程 H (X ) E I (x ) 信源熵（信息熵） [ i ] – 定义：自信息的数学期望 {H ( X Y ) E ⎡⎣I (xi / y j )⎤⎦ – 含义：两种解释 H (XY ) E ⎡I (x y )⎤