信息论实验指导书.docVIP

实丿II文

档

信息理论与编码实验指导书

电子与电气工程学院

罗晓琴编

标准

2

实验要求

1、实验前认真阅读实验指导书的容，并完成预习任务。

2、复习Matlab的相关知识，完成仿真。

3、要熟悉本次实验的任务。

4、实验过程中要认真记录实验结果，仿真结果需经指导教师审阅。

5、实验后每位同学要独立完成实验报告的容。

2

目录

实验一离散信源的自信息量和嫡

实验二最大离散爛定理 6

实验三费诺编码 9

实验四霍夫曼编码 13

实验五香农编码 16

2

实验一：计算离散信源的自信息量和爛

一、实验目的

1、熟悉离散信源的特点。

2、学习Matlab仿真离散信源的方法。

3、学习离散信源自信息量和信源燔的讣算方法。

4、熟悉Matlab编程。

二、实验设备

1、计算机

2、软件：Matlab

三、实验原理

本实验主要完成信源概率分布的自信息量以及信源爛的讣算。

计算公式如下：

一个字符它所携带的信息量是和该字符岀现的概率有关，概率可以表征自信息量的大小自信息的计算公式为：

1(a)=log,—

自信息量有两个含义：

第一、当事件发生前，表示该事件发生的不确定性；

第二、当事件发生后，标是该事件所提供的信息量.

自信息量的单位取决于对数所取的底，若以2为底，单位为比特，以e为底,单