模糊聚类的目标函数： fcm算法 - read.ppt

聚类分析原理 有16张牌 如何将他们分为 一组一组的牌呢？ 聚类分析原理 分成四组 每组里花色相同 组与组之间花色不同 聚类分析原理 分成四组 符号相同的牌为一组 聚类分析原理 分成两组 颜色相同的牌为一组 k-means 聚类 1.选择K（聚类数） 2.选择K个初始聚类中心c1,…,ck 3.迭代直至收敛： （1）依据每个样本与K个聚类中心的相似性，对样本进行划分 （2） 更新聚类中心 目前研究现状及发展方向 实际中受到普遍欢迎的是基于目标函数的模糊聚类方法，我们的研究主要集中在模糊聚类算法实现途径上。现有的实现途径主要分为：基于交替优化、神经网络和进化计算等方法。 以上三种模糊聚类的实现途径各有优缺点，这就启发我们集成三者的优点构造速度快、精度高并且全局收敛的模糊聚类算法。 数据聚类中的智能计算方法 模糊c-均值聚类算法 基于神经网络的模糊聚类算法 遗传与模糊c-均值混合聚类算法 模糊c-均值聚类算法的主要思想 它是一种基于梯度下降的聚类算法，其中以ISODATA算法最为常用，该算法的整个计算过程是通过反复修改聚类中心和分类矩阵，因此这种方法常被称为动态聚类或者逐步聚类法。 基于神经网络的模糊聚类算法 聚类神经网络的设计方法是多种多样的，但我们仅以Kohonen神经网络为例，简要介绍一下神经网络在模糊聚类中的应用。 当样本数据分布不是很好时，绝大多数情况下, 神经网络模糊聚类算法获得全局最优解的概率相比模糊聚类算法要大一些。因为在神经网络模糊聚类算法中，权值调整过程隐含着一定的随机性，所以就有可能脱离局部最小。 基于遗传的模糊C-均值混合聚类算法 遗传算法对复杂问题无需建模和进行复杂的运算，不要求目标函数可导，仅用遗传算子操作即可寻找到优化问题的解。 遗传算法是一种通用性好和鲁棒性强的并行搜索算法。因此，人们自然想到将遗传算法的全局搜索能力应用到经典的模糊聚类中来，以克服经典算法对初始化敏感和容易陷入局部优的缺点。 混合聚类算法实现 编码 编码的实质是在问题的解空间与算法的搜索空间之间建立一个映射。该算法对聚类中心V={vj|vj Rn, j=1,2,…,c}进行编码，vj表示一个个体Vi上的一个基因。由于vj用实数表示，所以该算法采用实数编码。 2. 适应度函数的构造 由于优化问题是要找出满足约束条件，同时使目标函数最小的向量解，但是具体到模糊C-均值算法，目标函数Jm(U,V)越小，聚类效果越好，因此适应度函数可以如下来构造： 其中 为足够小的正数。 样本2 某柴油机不同活塞裙部-缸套间隙时的机身加速度样本。这是一个具有5维特征、类数是4，容量为24的样本。  两种算法运行20次正确聚类结果比较 基于免疫遗传的模糊C-均值聚类算法 免疫遗传的基本概念 免疫遗传在模糊C-均值聚类算法中的应用原理 基于免疫遗传的模糊C-均值算法 实验结果及结论分析 免疫遗传的基本概念 免疫遗传算法是在保留遗传算法优良特性的基础上有目的、有选择的利用待求问题中的一些特征信息或先验知识来抑制进化过程当中出现的种群退化现象。免疫遗传算法的核心是免疫算子的构造，其中免疫算子是通过接种疫苗和免疫选择两个步骤来完成。 免疫遗传在模糊聚类算法中的应用步骤 在实际的操作过程中，首先, 应对所求解的问题进行具体的分析，从中提取出最基本的特征信息；其次，对此特征信息进行处理，将其转化为求解问题的一种方案；最后，将此方案以适当的形式转化成免疫算子以实施具体的操作。 基于免疫遗传的模糊C-均值算法 1.疫苗提取 任意选用一种方法构造模糊相似矩阵R，本文采用“绝对值减数法”，即rij= 1-c ,其中c适当选取，使rij在[0，1]中且分开即可；m为Xi的特征向量的维数。通过相似矩阵R我们得到样本之间的相似程度，然后从中找出每个样本与之相似程度最小或最大的对应样本，存放在一个矩阵中，以此作为算法执行过程中进行免疫操作时所注入的疫苗。 基于免疫遗传的模糊C-均值算法(续） 2.免疫算子 在交叉变异操作后,随机以概率Pi抽取一些个体注射疫苗, 然后进行免疫检测, 如果接种了的疫苗的个体适应度提高了, 则继续, 否则, 该个体将被父代中所对应的个体所取代. 接种疫苗使用所提取的疫苗来修改个体的某些基因位上