27连续有噪信道中的熵速率和信道容量.pptVIP

* 第二章 基本信息论 §2.7 连续有噪信道中的熵速率和信道容量 §2.7 连续有噪信道中的熵速率和信道容量 一、连续有噪信道中的接收熵速率 二、连续有噪信道中的信道容量 一、连续有噪信道中的接收熵速率 1. 一般概念 信宿 信源 信道 噪声 接收熵 接收熵速率 在实际问题中，转移概率难以直接得到，而通常给出的是 噪声概率密度函数。 下面仅对一种特殊情形进行讨论。 一、连续有噪信道中的接收熵速率 2. 加性噪声 根据噪声对信道中信号的作用不同，可将噪声分为两类： (1) 加性噪声，即信号与噪声是相加的； (2) 乘性噪声，即信号与噪声是相乘的。 设 X、Y、Z 分别为信道的输入、输出及噪声随机变量， 此外，假定 X 与 Z 独立，且已知它们的概率密度函数。 对于加性噪声，则有 一、连续有噪信道中的接收熵速率 由于 且 X 与 Z 独立， y 与 z 的概率分布规律是一样的，只相差一个平移量。 即信道的转移概率密度函数等于噪声的概率密度函数。 则 记 3. 加性噪声下的转移概率 因此在 x 给定的条件下， 一、连续有噪信道中的接收熵速率 4. 加性噪声下的条件熵 一、连续有噪信道中的接收熵速率 作变量代换，令 则 即条件熵 等于噪声熵 4. 加性噪声下的条件熵 一、连续有噪信道