通信原理习题课解读.ppt

通信原理  第1章绪论 ◆度量信息量的方法 事件的不确定程度可以用其出现的概率来描述 消息出现的概率越小,则消息中包含的信息量就越 大 I =loBa P(x log2P(x)-信息量的定义 通常广泛使用的单位为比特,这时有 I=log2 P(x) log2 P(x)(b)  第1章绪论 若有M个等概率波形(P=MM),且每一个波形的出现 是独立的,则传送M进制波形之一的信息量为 P 1/Mog 若M是2的整幂次,即M=2k,则有 /=lo k (b) 当M=4时,即4进制波形,Ⅰ=2比特 当M=8时,即8进制波形,Ⅰ=3比特 3  第1章绪论 对于非等概率情况 设:-个离散信源是由M个符号组成的集合,其中每个符 号x(i=1,2,3,…,M按一定的概率P(x)独立出现,即 r2 P(x),P(x2),…,P(x 且有 ∑P(x)=1 则x1,x2xy…,xM所包含的信息量分别为 log, P(), -log, P(x,), . ,-log, P(xm) 于是,每个符号所含平均信息量为 H(x)=P(r)[-log2 P(x,)]+P(r2)[-log2 P(2)]+.+P(M)[-log2 P(rm ∑P(xog2P(x)(比特/符号) (14-6) 由于H(x)同热力学中的熵形式相似,故称它为信息源的熵4  第1章绪论 ◆【例1-2】一离散信源由“0”,1”,“2”,“3”四个 符号组成,它们出现的概率分别为3/8,1/4,14,1/8, 且每个符号的出现都是独立的。试求某消息 2010201302130 01203210100321010023102002010312032100120210的 信息量。 【解】此消息中,“0出现23次,1出现14次 出现13次,“3”出现7次,共有57个符号,故该消息的 信息量 =23log28/3+14log24+13log24+7log28=108(b) 每个符号的算术平均信息量为 108 189(比特/符号) 符号数57  第1章绪论 若用熵的概念来计算 yo828 log ld 4488 1906(比特/符号) 则该消息的信息量 1=57×1.906=10864(b) 以上两种结果略有差别的原因在于,它们平均处 理方法不同。前一种按算数平均的方法,结果可能存 在误差。这种误差将随着消息序列中符号数的增加而 减小。 当消息序列较长时,用熵的概念计算更为方便。 6  第1章绪论 数字通信系统 ◆有效性:用传输速率和频带利用率来衡量 码元传输速率R3:定义为单位时间(每秒)传送码 元的数目,单位为波特(Baud),简记为B。 式中T-码元的持续时间(秒 信息传输速率R:定义为单位时间内传递的平均信 息量或比特数,单位为比特秒,简记为b/s,或bps  第1章绪论 码元速率和信息速率的关系 Rb=RB log, M(b/s) 或 Rb log,M (B) 对于二进制数字信号:M=2,码元速率和信息速率 在数量上相等。 对于多进制,例如在八进制(M=8)中,若码元速 率为1200B,,则信息速率为3600b/s 8  例题 ●如果二进制独立等概信号的码元先度为 0.5ms,求R和R四进制时又是多少? ●解(1) RB===2000(Band) R =Rolog, M=2000(b/s) (2)R0=7=20000 R2=Rlog24=4000(bs)  第1章绪论 频带利用率:定义为单位带宽(1赫兹)内的传输 速率,即 B/Hz) B 或 R nb b/(s·Hz)