信息论上机实验报告.docVIP

信息论与编码实验报告 实验一：计算离散信源的熵 一、实验设备: 1、计算机 2、软件：Matlab 二、实验目的: 1、熟悉离散信源的特点； 2、学习仿真离散信源的方法 3、学习离散信源平均信息量的计算方法 4、熟悉 Matlab 编程； 三、习题： 1. 甲地天气预报构成的信源空间为： 乙地信源空间为： 求此两个信源的熵。求各种天气的自信息量。 代码： x=[1/2,1/4,1/8,1/8];y=[7/8,1/8];HX=sum(-x.*log2(x))HY=sum(-y.*log2(y))IX=-log2(x)IY=-log2(y) 答案： 某信息源的符号集由A、B、C、D、E组成，设每一符号独立出现，其出现的概率分别为，1/4，1/8，1/8，3/16，5/16，试求该信源符号的平均信息量。 代码： x=[1/4,1/8,1/8,3/16,5/16];HX=sum(-x.*log2(x)) 答案：H(X) = 2.2272bit/符号 3、设有四个消息分别以概率1/4，1/8，1/8，1/2传送，每一消息的出现是相互独立的。试计算其平均信息量。 代码： x=[1/4,1/8,1/8,1/2]; HX=sum(-x.*log2(x)) 答案：H(X) =1.75bit/符号 4. 设一个二元信源（只有0和1两种符号）其概率空间为： 编程