通信原理(第4章).ppt

* * * * * 传输的最大值和最小值位置决定于延差，而是随时间变化的；因此， * * * * * * * * * * * H(X/Y)：Y 关于 X 的后验不确定度。表示收到变量 Y 后，对随机变量 X 仍然存在的不确定度。代表了在有噪声的信道中损失的信息（条件熵） H(x) – H(x/y) 为收到Y前、后关于 X 的不确定度减少的量。也就是从Y获得的关于 X的平均信息量，即传输的平均信息量。 * 表明：有噪声信道中信息传输速率等于每秒钟内信息源发送的信息量与信道不确定性而引起丢失的那部分信息量之差。 * 表明：有噪声信道中信息传输速率等于每秒钟内信息源发送的信息量与信道不确定性而引起丢失的那部分信息量之差。 信道容量为通过选择，离散无记忆信道能获得的最大平均互信息 * 表明：有噪声信道中信息传输速率等于每秒钟内信息源发送的信息量与信道不确定性而引起丢失的那部分信息量之差。 信道容量为通过选择，离散无记忆信道能获得的最大平均互信息 * 表明：有噪声信道中信息传输速率等于每秒钟内信息源发送的信息量与信道不确定性而引起丢失的那部分信息量之差。 信道容量为通过选择，离散无记忆信道能获得的最大平均互信息 * 表明：有噪声信道中信息传输速率等于每秒钟内信息源发送的信息量与信道不确定性而引起丢失的那部分信息量之差。 信道容量为通过选择，离散无记忆信道能获得的最大平均互信息 * 连续信道是指输入和输出信号都是取值连续的信道，即广义信道中的调制信道，其信道模型用时变线性网络来表示。 连续信道的信道容量受“三要素”（B，n0，S）的限制。 * * * * 4.7 信道容量 P(xi) 发送符号 xi 的概率， i = 1，2，…，n P(yi) 收到符号 yi 的概率， i = 1，2，…，n P(yi /xi) ， P(xi/yi)转移概率 由于信道有噪声，输入与输出之间不存在一一对应关系。如输入一个x1，则输出可能为y1，也可能为y2，或可能为ym。即输出与输入之间为随机对应关系。 x1 y1 x2 y2 x3 y3 xn ym xi P(xi) yi P(yi) P( xn/yn) ≠ P( yn/xn) ≠ 1 P( xn/ym) ≠ P( ym/xn) ≠ 0， m ≠ n （b）有噪声信道 图4-7 离散信道模型 P( y1/x1) P( ym/x1) P( ym/xn) * 4.7 信道容量 根据信息量的概念可知： ① 信源发送的平均信息量（信息熵）为 ② 因信道噪声而损失的平均信息量为 ③ 接收端得到的平均信息量 = H(x) – H(x/y) * 4.7 信道容量 信息传输速率 R 设单位时间内信道传输的符号数为 r（符号/s），则信道每秒传输的平均信息量，即信息传输速率 R 为 R = r[ H(x) – H(x/y) ] 显然， ① 在无噪声信道中，信道不存在不确定性，即H(x/y) = 0，此时，信道传输信息的速率等于信息源的信息速率， 即 R = rH(x) 。 ② 若噪声很大时， H(x/y) →H(x) ，则 R → 0。 * 4.7 信道容量 信道容量 根据信道容量的定义可知：最大信息传输速率即为离散信道容量 离散信道的信道容量也可以用每个符号能够传输的平均信息量的最大值来表示，记为 C，即 （b/符号） * 4.7 信道容量 0 0 1 1 P(0/0) = 127/128 P(1/1) = 127/128 P(1/0) = 1/128 P(0/1) = 1/128 发送端 图4-23 对称信道模型 接收端 【例4.1】设信源由两种符号“0”和“1”组成，符号传输速率为1000符号/秒，且这两种符号的出现概率相等，均等于1/2。信道为对称信道，其传输的符号错误概率为1/128。试画出此信道模型，并求此信道的容量C和Ct。 【解】此信道模型画出如下： * 4.7 信道容量 此信源的平均信息量（熵）等于： （比特/符号） 而条件信息量可以写为 现在P(x1 / y1) = P(x2 / y2) = 127/128， P(x1 / y2) = P(x2 / y1) = 1/128， 并且考虑到P(y1) +P(y2) = 1，所以上式可以改写为 * 4.7 信道容量 平均信息量 / 符号＝H(x) – H(x / y) = 1 – 0.045 = 0.955 （比特 / 符号） 因传输错误每个符号损失的信息量为 H(x / y) = 0.045（比特/ 符号） 信道的容量C等于： 信道容量Ct等于： * 4.7 信道容量 4