通信工程设计计算公式大全.docx

PAGE2

通信工程设计计算公式大全

第一章信息论基础与信道容量

1.1信息量(自信息量)

公式:I

符号说明:

I(X)——

P(X)——

应用场景:衡量单一消息所含信息量的大小,概率越低信息量越大。

限制:仅适用于离散信源。

举例:若二进制信源符号“0”出现概率P(0)=0.25,则I=-

1.2平均信息量——信息熵

公式:H

符号说明:

H(X

P(xi)——第

n——信源符号总数

应用场景:衡量信源的不确定度和信息冗余度。

限制:当所有符号等概出现时,熵取最大值。

举例:二进制信源等概时,H=-1

1.3香农公式——信道容量

文档评论(0)

1亿VIP精品文档

相关文档