信息论--模糊熵.doc

模糊不确定性的度量—模糊熵 摘要: 熵是模糊变量的一个重要的数字特征，用来度量模糊变量的不确定性，是处理模糊信息的重要工具。模糊集用来描述元素无法明确界定是否属于给定集合的集合类。模糊变量则是取值于这种具有不确定性的模糊集的变量。本文主要介绍模糊集模糊变量模糊熵简单的定义及其性质，文中最后通过例子具体介绍模糊熵的实际应用。 关键词:熵，模糊变量，模糊集，模糊程度，包含关系 模糊集与熵 集合的概念是逻辑和数学中最基本的概念之一。集合中非常重要且基本的性质为矛盾律和排中律，满足矛盾律和排中律的集合就是清晰集。即一个元素可以明确的表示属于或是不属于这个集合，任意选定的元素可以被明确界定，对应于数理逻辑就是一个命题要么是真的要么是假的。但是在实际客观事务的描述中很多集合和命题不满足这种特性，如“水很热”，显然这个集合中的元素无法被明确界定，这是因为“热”和“不热”之间不存在明确的分界。 定义函数 为模糊集 的隶属函数，表示 中的元素属于模糊集 的程度，隶属度越大，表示该元素属于集合 的程度就越大，隶属度为0表示该元素完全不属于集合 ，隶属度为1则表示该元素完全属于集合 。 1.1 模糊集合的一般性理论回顾 如果我们对周围的一切细加考察的话不难发现，普通集合无法描述像“天气好”“个子高”“美丽”这样的模糊概念，因为普通集合描述的概念有这样的特点：一个对象要么符合该概念，要么不符合该概念，二者必居其一，没有模棱两可的情况，而对于模糊概念来说，一对象是否符合它，不能简单的用“是”或“否”来回答，因为对象既不完全符合，也不完全不符合，而是在某种程度上符合该概念。 1.1.1 模糊集合的概念 论域X上的模糊集合A*由隶属函数来表征,其中在实轴的闭区间[0,1]上取值, 的值反映了X中的元素x对于A*的隶属程度. 模糊集合完全由隶属函数所刻画. 的值接近于1,表示x隶属于A*的程度很高; 接近于0,表示x隶属于A*的程度很低;当的值域为{0,1}二值, 演化为普通集合的特征函数,A*便演化为普通集合A.我们可以认为模糊集合时普通集合的一般化. 模糊集合的表示方法 就论域的类型而言,模糊集合有以下两种表示方法: 设论域X是有限集或可数集,令X=,X上的任一模糊集A*,其隶属函数为,i=1,2,3…,n,则此时A*可以表示成: A*= 这里的的符号不是简单的加，除，而是只有符号意义的． 设论域X是无限集,则此时X上的一个模糊集A*可以表示为: A*= 同样的积分符号也不再表示积分,只是无穷逻辑和的意义． 1.2 一般熵的基本概念 熵是一个一般性的概念，它度量了一个系统或一段信息的不确定性。信源熵H(S)定义为一个信源中事件的自信息的统计平均值，即 H(S)= 一个事件的自信息是随其不确定程度的增大而增大的，所以信源熵可以被认为是一个系统不稳定性的度量。而模糊熵描述了一个模糊集合的模糊性程度，是度量模糊集的模糊程度的一种具体形式。 模糊度 模糊度的定义 模糊度是描述模糊集的模糊程度的数量指标，用一个怎样的数量指标来描述模糊集的模糊程度，一种一般的定义是： 1、普通集是不模糊的，标志它的模糊程度的数量应该为0； 2、而对任一，若,则，此时A是隶属性最难确认的模糊集，标志其模糊程度的数量应为1； 3、又,所以A与的模糊程度是相同的； 4、此外，模糊集A的模糊性应具有单调变化的性质，即A越接近0.5，A的模糊性越大，A越远离0.5，A的模糊性越小。 可定义模糊度如下： 若映射d:模糊集U→[0,1]满足： d(A)=0A∈U d(A)=1A(u)=0.5 若对任一ui∈U,有A(ui) B(ui) 0.5,或A(ui) B(ui) 0.5,则d(A) d(B) d(A)=d() 则d(A)称为模糊集A的模糊度。 这是一个公理化的定义，它只给出了模糊度最基本的要求，但此定义不适用于计算，在实用中还需给出其具体的形式。由定义知，模糊度的具体形式不是唯一的，后面面给出一种可计算的模糊度 模糊集的熵 模糊变量 模糊变量的概念是用来描述模糊事件或模糊约束。若为可能空间到实直线上的函数，则称为可能性空间上的模糊变量，相应的集合称为的内核称为 的支撑同样可以导出隶属函数. 我们可以知道，通过模糊变量的隶属函数可以导出具有相同隶属函数的模糊集，另一方面任何一个正则的模糊集都可以导出一个具有相同隶属函数的模糊变量。尽管模糊集和模糊变量在数学表达方式上具有这样的一致性，但是，两者之间仍存在着本质上的差别。模糊集的隶属函数刻画了集合与其表示的具有不确定性的概念之间的相容性，即其中的元素属于该集合的程度。然而，模糊变量及可信性理论涉及的则是相反的问题，即在模糊变量的隶属函数已知的情况下，特定事件