《通信原理》第12章 第十二章 信息理论 教学课件.pptx

《通信原理》第12章 第十二章 信息理论 教学课件.pptx

第十二章信息理论;二进制信源的熵

设: 信源仅有“0”和“1”两种消息。

发送“1”的概率P(1)=?,

则发送“0”的概率P(0)=1-?=?

信源的熵等于

若一个消息是一个码元,则熵H(?)的单位:比特/码元

H(?)~?曲线

当?=1/2时,此信源的熵最大;这时的两个消息是等概率出现的,其不确定度最大。

当??1/2时,一个消息比另一个消息更可能出现,因此不确定度减小。

若?或?等于0,则不确定度为0。

;n进制信源的熵

设:信源有n种可能出现的消息,并用Pi表示第i个消息的 出现概率,

则由熵的定义可以写出此信

文档评论(0)

1亿VIP精品文档

相关文档