信息论基础 7.pptVIP

信息论基础 第 七 讲 连续信源 连续信源：是指消息在取值上（幅度）是连续的，有些在时间上或频率上也是连续的，这样的信源就称为连续信源。 单变量连续信源的输出是取值连续的一维随机变量。这样的信源可以用变量的概率密度函数，变量间的条件概率密度函数和联合概率密度函数来描述。 在时间和取值上都连续的信源（波形信源）可用随机过程来描述。 随机过程可分为平稳随机过程和非平稳随机过程。一般认为，通信系统中的随机过程都是平稳的随机过程。 单变量连续信源 单变量连续信源 单变量连续信源 波形信源的熵 波形信源的熵 波形信源的熵 几种特殊连续信源的熵 高斯分布的连续信源的熵 指数分布的连续信源的熵 连续熵的性质 连续熵的性质 最大连续熵定理 最大连续熵定理 最大连续熵定理 连续信源的信息变差 熵功率 本讲结束 * * 前面已经说过，在时间（或频率）和取值上都连续的信源（波形信源）可用平稳随机过程来描述。平稳随机过程可以通过采样，变换成时间上或频率上离散，而幅度连续的平稳随机序列，因而平稳随机过程的熵也就是平稳随机序列的熵。 和离散变量中的过程一样，有如下结果： 仅当随机序列中各个变量统计独立时等式成立 *