实验1-信息论相关实验.docVIP

实验一 关于信源熵的实验 一、实验目的 掌握离散信源熵的原理和计算方法。 熟悉matlab软件的基本操作，练习使用matlab求解信源的信息熵。 自学图像熵的相关概念，并应用所学知识，使用matlab或其他开发工具求解图像熵。 掌握Excel的绘图功能，使用Excel绘制散点图、直方图。 二、实验原理 离散信源相关的基本概念、原理和计算公式 产生离散信息的信源称为离散信源。离散信源只能产生有限种符号。 随机事件的自信息量I（xi）为其对应的随机变量xi出现概率对数的负值。即： I（xi）= -log2 p(xi) 随机事件X的平均不确定度（信源熵）H（X）为离散随机变量xi出现概率的数学期望，即： 二元信源的信息熵 设信源符号集X={0，1}，每个符号发生的概率分别为p(0)=p，p(1)=q，p+ q=1，即信源的概率空间为 则该二元信源的信源熵为： H(X) = - p log p – q log q = - p log p – (1- p) log (1- p) 即：H (p) = - p log p – (1- p) log (1- p) 其中0 ≤ p ≤1 MATLAB二维绘图 用matlab中的命令plot(x, y)就可以自动绘制出二维图来。 例1-2，在matlab上绘制余弦曲线图，y = cos x，其中0 ≤ x ≤ 2(。 x=0:0.1:2*pi； %生成横坐标向量，使其为0，0.1，0.2，…，6.2 y=cos(x)； %计算余弦向量 plot(x,y) %绘制图形 MATLAB求解离散信源熵 求解信息熵过程： 1) 输入一个离散信源，并检查该信源是否是完备集。 2) 去除信源中符号分布概率为零的元素。 3) 根据平均信息量公式，求出离散信源的熵。 图像熵的相关知识 图像熵是一种特征的统计形式，它反映了图像中平均信息量的多少。图像的一维熵表示图像中灰度分布的聚集特征所包含的信息量，令Pi 表示图像中灰度值为i的像素所占的比例，则定义灰度图像的一元灰度熵为： 图像熵计算过程： 1) 输入一幅图像，并将其转换成灰度图像。 2) 统计出图像中每个灰度阶象素概率。 3) 计算出一幅图像的一维熵。 Excel的绘图功能 比如：用Excel或制作二元熵函数曲线。具体步骤如下： 1）启动Excel应用程序。 2）准备一组数据p。在Excel的一个工作表的A列（或其它列）输入一组p，取步长为0.01，从0至100产生101个p（利用Excel填充功能）。 3）使用Excel的计算功能，在B列中用二元熵函数计算公式，求得A列中各数值对应的二元熵值。比如：在单元格B2中输入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)。 4）使用Excel的图表向导，图表类型选“XY散点图”，子图表类型选“无数据点平滑散点图”，绘制二元熵函数散点图。 三、实验内容 1、使用matlab软件绘制二元信源熵函数曲线，并说明其物理意义。 2、使用matlab软件求解离散单符号信源熵，请自己构造两个信源空间，根据求解结果说明其物理意义。 3、使用matlab软件计算图像一维图像熵，请自己选择任意两幅图像，根据求解结果说明其物理意义。 4、使用Excel软件，绘制二元信源熵函数曲线的散点图。 5、使用Excel软件，绘制（3）中两幅图像的灰度直方图（0到255各灰度占图像像素的比例值，使用柱状图绘制其比列分布）。 四、实验要求 提前预习实验，认真阅读实验原理以及相应的参考书。 认真高效的完成实验，实验中服从实验室管理人员以及实验指导老师的管理。 认真撰写实验报告，内容可以自己编排，可以考虑包括以下一些方面：原理概述、程序设计与算法描述、源程序及注释（程序太长可以只选取重要部分）、运行输出结果实例、调试和运行程序过程中产生的问题及采取的措施、对实验的讨论分析、总结。 实验时间：第12周 周五 下午 5-8节 11月22日 提交内容：实验报告、源程序代码 提交要求： （1） 在上机的4节课时间内做完的，可以将提交内容打包用U盘拷贝给老师，老师会当场适当提问检查，只交电子稿即可 （2） 在上机的4节课时间内做不完的，在当天晚上12点前发送到zpzhang@csu.edu.cn,只交电子稿即可（超时后提交的电子邮件，将视作未交） （3） 超过时间还未交的，将不接受电子稿提交，请交实验报告打印稿，在下周二上课时交。 电子稿命名规则：提交电子稿的同学请注意命名规则，不符合命名规则的一概算没有交。 实验报告命名规则：”班级-学号-姓名-实验1-实验报告.doc” 源程序命名规则：“班级-学号-姓名-实验1-源代码1.m”- “班级-学号-姓名-实验1-源代码2.m” “班级-学号-姓名-实验1-Excel绘图.xls