第3章通信信源与信源编码-西安电子科技大学.PDF

  第3 章 通信信源与信源编码  1  第3 章 通信信源与信源编码 3.1 信源特性及信源分类 3.1.1 信源的基本特性 通信信源是通信系统的源端，它所产生的输出信号是一种随机过程。 信源可分为有记忆和无记忆两大类，也可以分为连续和离散两大类。 无记忆信源在不同时刻所产生的输出是相互独立的，它在任意不同时刻的两个样点都是两 个互不相关的随机变量。 有记忆信源在不同时刻所产生的输出值是相互关联的，当前输出值的概率分布与前面出现 的值有关，例如：那些可用马尔可夫过程、短时平稳过程或循环平稳过程描述的信号，都可 以看作是由有记忆信源所产生的输出。 通信信源所产生的输出是用来携带信息进行通信的；因此无论是离散信源还是连续信源， 一般都是利用收发两端共知的一个由有限个信源字符(letter 或 symbol) 组成的字符集 （alphabet ）来表示信息的；按表达信息内容的需要，一次又一次地从字符集中选择一个适当 的字符作为输出来携带信息进行传输。这些信源字符的传输和存储，一般采用某种物理量(例 如：声、光、电) 的一组数值或一种波形来表现，因此有些表现为离散信源，有些表现为连续 信源。 3.1.2 离散信源 一个离散信源所发出的信源字符，一般属于一个字符数目有限的字符集，例如汉字的国标 一级字表，共有3763 个常用汉字。一个通信系统的发端和收端都利用同一个字符集，以便进 行编码和译码。 无记忆离散信源的统计特性可以用字符集中各种字符出现的概率分布来描述；当它为均匀 分布时携带信息的效率最高。 有记忆离散信源当前输出什么字符，与过去或将来输出的字符统计相关。这种相关性在时 域表现为马尔可夫性，在频域表现为功率密度谱不平坦，即自相关函数不是 δ 函数。有记忆 信源的统计特性的描述，需要采用多维随机变量的联合概率分布及自相关函数来描述。信源 的记忆性或相关性反映信息的冗余性，因此同样大小信源字符集的信源，无记忆信源携带信 息的效率高于有记忆信源。 西安电子科技大学    第3 章 通信信源与信源编码  2  3.1.3 连续信源 连续信源产生的输出是一种连续随机过程，如果它是频带有限的，那么可以以适当的采 样间隔采样为离散随机过程。 3.1.4 采样定理 (1)随机过程的采样 如果随机过程X (t) 是频带有限的，设带宽小于等于W ，那么X (t) 可以用一个以随机变量 序列{X (n / 2W ) ，n =−∞,..., −1, 0,1,..., ∞}为系数的级数表示： ∞ X (t) = ∑X (n / 2W )Sinc(2πW (t −n / 2W )) n =−∞ (3-1-1) ∞ sin[2πW ( t −n / 2W )] = ∑X (n / 2W ) n =−∞ 2πW( t −n / 2W) 其中{ X (n / 2W ) }为X (t) 以时间间隔T 1/(2W ) 采样得到的样点序列；它是X (t) 在正交基 函数族{Sinc(2πW (t −n / 2W )) ；n =−∞,..., −1,0,1,..., ∞}上的投影。 (2)确知信号的采样 【采样定理1】设连续信号x (t) 的频谱X (f ) 是频带有限的，即当|f| ≥f c