现代通信原理2信号、噪声与信息论.ppt

* * 连续信源编码的目的，就是要根据信源输出的受限情况，将其信源的概率密度函数变换为符合最大熵条件的概率密度函数，以得到最大熵。 * * 与离散信源相对应，当发送端连续信源为X，接收到的连续信源为Y时，它们的相对条件熵 H(X/Y)=- p(y)p(x/y)log(x/y)dxdy 其中P(y)为接收信号y的概率密度函数，p(x/y)为条件概率密度。 同理有： H(Y/X)=- p(x)p(y/x)log(y/x)dxdy * * 连续信源的平均互信息量 I(X,Y)= - p(xy)log dxdy 平均互信息量与条件熵和熵之间的关系为： I（X，Y）=H（X）-H（X/Y）=H（Y）-H（Y/X） * * 2.8 信道容量和香农公式 信道容量： 单位时间内信道上所能传输的最大信息量称为信道容量。 * * 2．8．1 有扰离散信道的信息传输 离散信道: 信道输入和输出都是离散符号。 1、当信道中无干扰时，离散信道输入符号X和输出符号Y之间有一一对应的关系。 2、当信道中存在干扰时，输入符号与输出符号之间不存在一一对应关系，只存在一定的统计相关性。 * * 这种统计相关性取决于转移概率p(yj/xi)。离散