信息论编码与实验大纲pdf.pdfVIP

《信息论与编码》实验指导书 1 目录 实验一 信息熵与图像熵计算（2 学时） 1 实验二 香农编码（2 个学时）4 实验三 费诺编码（2 学时）6 实验四 哈夫曼编码（2 学时） 11 实验五 算术编码（2 学时） 13 实验六 线性分组码的信道编码和译码（2 学时） 19 1 实验一 信息熵与图像熵计算 （2 学时） 一、实验目的 1.复习MATLAB 的基本命令，熟悉MATLAB 下的基本函数； 2.复习信息熵基本定义,能够自学图像熵定义和基本概念。 二、实验内容 1.能够写出MATLAB 源代码，求信源的信息熵； 2.根据图像熵基本知识，综合设计出 MATLAB 程序，求出给定图像的图像 熵。 三、实验仪器、设备 1.计算机－系统最低配置256M 内存、P4 CPU ； 2.MATLAB 编程软件。 四、实验原理 1.MATLAB 中数据类型、矩阵运算、图像文件输入与输出知识复习。 2.利用信息论中信息熵概念，求出任意一个离散信源的熵（平均自信息量）。 自信息是一个随机变量,它是指某一信源发出某一消息所含有的信息量。所发出 的消息不同，它们所含有的信息量也就不同。任何一个消息的自信息量都代表不 了信源所包含的平均自信息量。不能作为整个信源的信息测度，因此定义自信息 量的数学期望为信源的平均自信息量： n H (X) E[log 1 ] p (a )log p (a ) p (a i ) i i i 1 信息熵的意义：信源的信息熵 H 是从整个信源的统计特性来考虑的。它是 从平均意义上来表征信源的总体特性的。对于某特定的信源，其信息熵只有一个。 不同的信源因统计特性不同，其熵也不同。 3.学习图像熵基本概念，能够求出图像一维熵和二维熵。 图像熵是一种特征的统计形式，它反映了图像中平均信息量的多少。图像的 一维熵表示图像中灰度分布的聚集特征所包含的信息量，令 Pi 表示图像中灰度 值为i 的像素所占的比例，则定义灰度图像的一元灰度熵为： 255 H p i log p i i 0 图像的一维熵可以表示图像灰度分布的聚集特征，却不能反映图像灰度分布 的空间特征，为了表征这种空间特征，可以在一维熵的基础上引入能够反映灰度 分布空间特征的特征量来组成图像的二维熵。选择图像的邻域灰度均值作为灰度 1 分布的空间特征量，与图像的像素灰度组成特征二元组，记为(i,j) ，其中 i 表示 像素的灰度值(0=i=255)，j 表示邻域灰度(0=j=255), p ij f (i , j ) /N 2 上式能反应某像素位置上的灰度值与其周围像素灰度分布的综合特征，其中 f(i,j) 为特征二元组(i,j) 出现的频数，N 为图像的尺度，定义离散的图像二维熵为: 255 H p ij log p ij i 0 构造的图像二维熵可以在图像所包含信息量的前提下，突出反映图像中像素 位置的灰度信息和像素邻域内灰度分布的综合特征。 五、实验步骤 1.求解信息熵过程：