第二章基本信息论7熵速率和信道容量.pptVIP

2.7 熵速率和信道容量 一、信源熵速率 二、信道容量的概念 三、离散有噪声信道中的熵速率和信道容量 若信道无噪声，则 信源输出的熵速率 = 信宿接收的熵速率 信道容量 = 信源的最大熵速率 四、可疑度的物理解释 可疑度H(X/Y)是为了克服信道中噪声干扰、使信宿能无差错地加以识别信源发出的消息而必须额外提供的纠正信息。 [例]二元信源，p(0)=p(1)=0.5，每秒信源发出10000个符号，信号通过有噪声对称信道，其差错率为1%，求信宿收到的信息速率。 接收熵速率 五、离散有噪信道的信道容量 离散有噪对称信道的信道容量 六、连续有噪信道的熵速率 高斯白噪声加性波形信道 设：输入信号平均功率受限为P 信道带宽为宽度为W的矩形 信道中干扰噪声平均功率为N 七、连续有噪信道的信道容量 信道容量C（最大熵速率） 平均功率受限的高斯白噪声连续信道，其信道容量与信道带宽、功率信噪比有关。其值越大，信道容量越大。 山农公式指出了理论上可以达到的信道容量与实际工程技术参数（带宽W、功率信噪比P/N）之间的关系，指出了带宽和信噪比之间可以互换，为实际有用的扩频通信打下了理论基础。 * * 1、离散信源的熵速率 信源熵速率：信源在单位时间内输出的熵，也称信息速率或传信率 若信源每秒输出n个符号，则其熵速率： 2、连续信源的熵速率 若信源输出带