通信原理第章祥解.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 如果还用一个二进制码元表示1bit信息量的话，则一个四进制信号的码元就包含2bit的信息量，一个八进制信号的码元就包含3bit的信息量。可见传输多进制信号可以在波特率不变的情况下提高比特率。比如波特率还是1200Bad的通信系统，现改为传输四进制信号，则其信息传输速率就为2400b/s，比二进制信号提高了一倍。由此我们得到波特率、比特率与数制三者之间的关系 Rb=RBlog2M 式中,Rb为信息传输速率(b/s)；RB为码元传输速率(Baud)；M为采用信号的进制数。 数字通信系统的可靠性用差错率衡量。 差错率包括两个内容：误码率和误信率。误码率指错误接收的码元数在传输的总码元数中所占的比例。或者说是码元在传输中被传错的概率。用下式表示： 误码率(Ps)=错误的码元数/传输的总码元数 误信率也称误比特率，它是指接收错误的信息量在传输总信息量中所占的比例。即信息量在传输中被丢失的概率。用下式表示： 误信率(Pb)=错误的比特数/传输的总比特数 衡量一个数字传输系统(包括数据传输系统)的传输能力(有效性)用其波特率或比特率为标准是很自然的事情。 但是在计算机网络中，我们却常用“带宽”这个术语来衡量网络的信息传输能力。比如，我们不说“高速网”而说“宽带网”。其中原因，恐怕就是人们习惯于模拟通信中“带宽”这个概念，而它又可间接表示信道(或系统)传输数字信号的能力，需要注意的是，尽管在计算机网络中使用“宽带”或“窄带”表示信息传输速率，但它们言下之意的单位却不是“赫兹(Hz)”而是“比特/秒(b/s)”。 * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 联合熵（共熵）：存在两个离散信源X和Y时，X中 与Y中 同时出现的平均信息量。 条件熵：X中出现 条件下Y中出现 的条件平均信息量。 同理，有： 平均互信息量：互信息量的统计平均值。 根据熵、条件熵、共熵、平均互信息量的定义，可证明： （1）共熵与熵和条件熵之间的关系： （2）平均互信息量与熵和条件熵之间的关系： （3）平均互信息量与熵和共熵之间的关系： 四、连续信源的信息度量 可以把连续消息看成是离散消息的极限情况。连续消息信号在每个抽样点上的取值是一个连续的随机变量，概率密度函数为p(x)。将取值范围分成2N小段。 当N足够大时，取值落在 小段内，概率表示为： 上式中第二项为无穷大。在计算熵变化时，此项始终出现（相抵消）。因此，定义连续信息的平均信息量为： 离散消息源当其所有符号等概率输出时，其熵最大。 连续消息源的最大熵条件则取决于消息源输出取值上所受到的限制。即：均方值受限和峰值受限。 可证明：均方值受限时的最佳概率密度函数为： §1.6 信道容量和香农公式 　　信道容量:单位时间内信道上所能传输的最大信息量。　　　 　　一、有扰离散信道的信息传输 　　离散信道：信道输入和输出符号都是离散符号的信道。　　 　　无记忆信道：每个输出符号只取决于当前的输入符号，而与其它输入符号无关。 　　对称信道：当信道转移概率矩阵中各行和各列具有相同集合的元素（如：二进制“0”、“1”）时，这类信道称为对称信道。 ０ １ ０ １ 　　各行有： 可得对称信道的输入、输出符号集合之间的条件熵： 　同理，可得： 有扰信道的典型例子：无记忆的二进制对称信道，其传输特性用转移概率矩阵表示： ０ １ ０ １ Ｐ＝１－ε Ｐ＝１－ε Ｐ＝ε 噪声熵。表示发出随机变量X后,?对随机变量Y仍然存在的平均不确定度。如果信道中不存在任何噪声,发送端和接收端必存在确定的对应关系,?发出X后必能确定对应的Y,?而现在不能完全确定对应的Y,?这显然是由信道噪声所引起的。 n x y 信道 　----------此式称为香农公式。 　　由香农公式可得结论： （１）提高信号与噪声功率之比能增加信道容量。 （２）当噪声功率Ｎ→０时，信道容量Ｃ趋于∞，即无干扰信道容量为无穷大。 （３）增加信道频带Ｗ并不能无限制地使信道容量增大。 （４）信道容量一定