模式识别-第八章-模糊模式识别方法简介.ppt

2021/9/12 * 8.4 模糊聚类方法 模糊C均值算法 动态聚类方法的目的是把n个样本划分到c个类别中的一个,使各样本与其所在类均值的误差平方和最小,即使如下准则函数最小: 其中mi为第i类的样本均值, 是分到第i类的所有样本。 使上述准则最小化的基本方法就是C均值方法。 将这种硬分类变为模糊分类,即可得到模糊C均值方法。 2021/9/12 * 8.4 模糊聚类方法 模糊C均值算法 为了实现模糊聚类,可将问题的有关符号重新定义如下:{xi, i=1,2,…,n}是n个样本组成的样本集合,c为预定的类别数目,mi (i=1,2,…,c)为每个聚类中心, μj(xi)是第i个样本对第j类的隶属度函数。 用隶属度函数定义的聚类损失函数可写成: 其中b1是一个可以控制聚类结果的模糊程度的常数。 2021/9/12 * 8.4 模糊聚类方法 模糊C均值算法 在不同的隶属度定义方法下最小化上述损失函数,可得到不同的模糊聚类方法,其中最有代表性的是模糊C均值算法,它要求一个样本对于各个聚类的隶属度函数之和为1,即 2021/9/12 * 8.4 模糊聚类方法 模糊C均值算法 在上述约束条件下求聚类损失函数的极小值。令Jf对mi和μj(xi)的偏导数为0,可得必要条件如下: 2021/9/12 * 8.4 模糊聚类方法 模糊C均值算法 用迭代方法求解上述必要条件,即得模糊C均值算法,其步骤如下: （1）设定聚类数目c和参数b （2）初始化各个聚类中心mi （3）重复如下运算,直到各个样本的隶属度值稳定 用当前的聚类中心根据必要条件中μj(xi)的算式计算隶属度函数; 用当前的隶属度函数根据必要条件中mj的算式更新计算聚类中心; 2021/9/12 * 8.4 模糊聚类方法 模糊C均值算法 当算法收敛时,就得到了各类的聚类中心和各个样本对于各类的隶属度值,从而完成了模糊聚类划分。 如果需要,还可以将模糊聚类结果进行去模糊化,即用一定的规则把模糊聚类划分转化为确定性分类。 2021/9/12 * 8.4 模糊聚类方法 改进的模糊C均值算法 在模糊C均值算法中,由于引入了归一化条件 ,在样本集不理想的情况下可能导致分类结果不好。 例如:如果某个孤立样本远离各类的聚类中心,本来它严格属于各类的隶属度都很小,但由于归一化条件的要求,将会使它对各类都有较大的隶属度（比如两类情况下各类的隶属度都是0.5）,这种孤立样本的存在将影响迭代的最终结果。 2021/9/12 * 8.4 模糊聚类方法 改进的模糊C均值算法 为了克服这种缺陷,人们提出了放松的归一化条件,使所有样本对各类的隶属度总和为n,即: 在这个新的条件下,计算mi的公式不变,而计算μj(xi)的公式变为: 2021/9/12 * 8.4 模糊聚类方法 改进的模糊C均值算法 仍用前面给出的模糊C均值算法步骤,而隶属度的更新进行了修改,即为改进的模糊C均值算法。 显然,用改进的模糊C均值算法得到的隶属度可能大于1,因此并不是通常意义上的隶属度函数。 必要时,可以把最终得到的隶属度函数进行归一化处理,这时已不会影响聚类结果。 如果聚类结果要求进行去模糊化,可以直接利用这里得到的隶属度函数进行。 2021/9/12 * 8.4 模糊聚类方法 改进的模糊C均值算法 改进的模糊C均值算法较前面提到的模糊C均值算法具有更好的鲁棒性,它不但可以在有孤立样本存在的情况下得到较好的聚类效果,而且可以放松隶属度条件,而且因为放松了隶属度条件,使最终聚类结果对预先确定的聚类数目不十分敏感。 与确定性C均值算法和模糊C均值算法一样,改进的模糊C均值算法仍然对聚类中心的初值十分敏感,为了得到较好的结果,可以用确定性C均值算法或模糊C均值算法的结果作为初值。 2021/9/12 * 8.5 讨论 模糊集理论是为了表达人的自然语言和推理中的不确定方面而提出的,因此其应用中往往不可避免地带有一定的主观因素,比如隶属度函数的选取、模糊推理规则等,也正因为如此,它能够比较好地把人们的先验知识和常识加到一个智能系统中。 虽然人们也试图用传统概率论来描述模糊理论,指出它在本质上与传统的概率论是一致的,但是至少从工程应用的角度看,模糊技术仍有它十分重要的优势。 概率意义上的不确定性和模糊概率意义上的不确定性的含义还是有区别的。 2021/9/12 * 8.5 讨论 模糊集理论从一开始就和推理系统结合得更紧密,因此在模式识别中,模糊技术在句法模式识别中的应用也非常活跃。 在诸如决策树这种推理性质的模式识别系统中,模糊逻辑也得到了很好的应用。 2021/9/12 * 第八章 模糊模式识别方法简介 2021/9/12 * 8.1 引言 1965年,Zadeh提出了著