高级计算机网chap2.ppt

The Physical Layer Chapter 2 2.1 The Theoretical Basis for Data Communication Information Measures Fourier Analysis Bandwidth-Limited Signals Maximum Data Rate of a Channel 2.1.0 Information Measures 信息是个抽象的概念，表示带给人们的新知识。它同头脑中已有的知识关系密切。在预料之中的事情就不含什么信息量。 一个消息所含的信息量，与它的发生可能性，或者说出现的概率密切相关的。 如果有离散的随机变量 X=(x1,x2,…,xn) 其中事件xi发生所带来的信息量I（xi），直接与事件xi的出现概率P（xi）相关。 2.1.0 Information Measures 所含信息量应该是出现概率的函数 I（xi）=f [P（xi）] 如果信源发出两个消息，所获得的总信息量是两项之和。 事件上两个事件的联合概率是两个事件出现概率的乘积 P(x,y) = P(x|y) P(y) 其中P(x|y)表示出现的y前提下出现x的概率。 将乘积关系转换成相加关系是对数函数形式。