第16讲一般单符号离散信道的信道容量.pptVIP

3.2 离散单个符号信道及其容量 信息传输率R：信道中平均每个符号所能传送的信息量 信息传输速率Rt:信道在单位时间内平均传输的 信息量。t为平均传送一个符号所需的时间。 说明： 信道容量是信道本身的特性，与信源无关； 不是所有的信源传输符号时都可以达到这个传输速率，使信道达到最大传输率的输入概率分布称为最佳输入分布； 信道容量是信息传输率R的上限，定量了信道信息的最大通过能力。 4.2.2 无干扰离散信道 无噪现象：1个输入只对应1个输出，噪声熵H(Y|X)=0 无损现象：1个输出只对应1个输入，疑义度H(X|Y)=0 无噪无损信道：即X、Y一一对应，则 H(Y|X)= H(X|Y)= 0 有噪无损信道：一个输入X产生多个输出Y （有噪）,而且每个X值所对应的Y值不重合；又因为信道无损，接收到符号Y后，X完全确定。 因为无损：H(X/Y)=0，有噪：H(Y/X)≠0 所以：I(X;Y)=H(X)H(Y) 无噪有损信道： 一个Y对应多个X，而且每个Y 值所对应的X值不重合。接收到符号Y后不能完全消除对X的不确定性。 H(X/Y) ≠0；I(X;Y)=H(Y) H(X) 损失熵（疑义度）H(X/Y) = 0 的信道称为无损信道，其信道容量为： 其中，r为输入信源X的符号个数，等概率分布时H(X)最大。