通信系统的组成.pptVIP

（ 1 ） 信息量是概率的函数， 即 I=f ［ P(x) ］ （ 2 ） P(x) 越小， I 越大； 反之， I 越小， 且 P(x)→ 1 时， I→ 0 P(x)→ 0 时， I→∞ （ 3 ） 若干个互相独立事件构成的消息， 所 含信息量等于各独立事件信息量之和，也就 是说，信息具有相加性， 即 I ［ P(x 1 )P(x 2 ) … ］ =I ［ P(x 1 ) ］ +I ［ P(x 2 ) ］ + … 综上所述， 信息量 I 与消息出现的概率 P(x) 之间的关系应为 I=log a 1/P(x) =-log a P(x) 信息量的单位与对数底数 a 有关。 a=2 时， 信息量的单位为比特 (bit) ； a=e 时，信息量的单 位为奈特 (nat) ； a=10 时， 信息量的单位为十 进制单位，叫哈特莱。目前广泛使用的单位为 比特。 例 1 – 1 设二进制离散信源， 以相等的概率发 送数字 0 或 1 ，则信源每个输出的信息含量为 I(0)=I(1)= - log 2 (1/2) =log 2 2=1 (bit) 可 见 ， 传 送 等 概 率 的 二 进 制 波 形 之 一 （ P=1/2 ）的信息量为 1 比特。由此，通常把一 个二进制脉冲波形称为一个比特。由此可见， 比特的定义的含义。 综上所述，对于离散信源， M 个波形等概 率（ P=1/M ）发送