通信原理_第二讲_信息及其量度.pptVIP

通信原理 第二讲 通信基础教研室 潘若禹 办公室 3号实验楼135 电话 邮箱 panruoyu@xiyou.edu.cn 1.3信息及其量度 1.信息定义 信息—information 消息—message 信息可以理解为消息中包含的有意义的内容 例如：今天晚上23点天已经黑了。 今天晚上23点学校要放电影。 今天晚上23点西安要地震。 今天晚上23点地球要灭亡了。 信息量依次增大 2.信息量I 定义：消息出现的概率 的函数 特性： 1)消息出现的概率越小，所包含的信息量越大；(反比的关系) 2)若某消息由若干个独立消息所组成，则该消息所包含的信息量是每个独立消息所含信息量之和。（对数的性质） 对数的性质: 结论： 由以上的分析可得信息量的公式 (1-1) 单位： 单位为比特(bit 简写为b) 单位为奈特(nat 简写为n)