通信原理_第二讲_信息及其量度.pptVIP

通信原理第二讲 通信基础教研室潘若禹 办公室 3号实验楼135 电话邮箱panruoyu@xiyou.edu.cn 1.3信息及其量度 1.信息定义 信息— information 消息一 message 信息可以理解为消息中包含的有意义的内容 例如:今天晚上23点天已经黑了 今天晚上23点学校要放电影。 今天晚上23点西安要地震。 信息量依次增大 今天晚上23点地球要灭亡了。↓增 2.信息量I 定义:消息出现的概率p(x)的函数 特性 1)消息出现的概率越小,所包含的信息量 越大;(反比的关系) 2)若某消息由若干个独立消息所组成,则 该消息所包含的信息量是每个独立消息所含 信息量之和。(对数的性质) 对数的性质 loga[P(x)·P(x)…]=ogP(x)+logP(x)+ 结论 由以上的分析可得信息量的公式 1=log log p(x) pox) (1-1) 单位: a=2单位为比特(bit简写为b) a=e单位为奈特(nat简写为n) a=10单位为笛特(Det)或称为十进制单 位 a=r单位称为r进制单位 【例1-1】已知二进制离散信源(0,1),每一符号 等概独立发送,求传送0和1的信息量。 解:由于每一波形出现的概率为P(x)=1/2,故 传送0和1的信息量都为 h1=12P( log 2=1bit 【例1-2】已知二进制离散信源(0,