模式识别大作业--模糊C均值算法实现介绍.docx

模式识别大作业--C均值算法模糊C均值算法算法简述：C均值聚类算法：C-均值算法属于动态聚类算法，动态聚类算法有以下三个要点：1.选定某种距离度量作为样本间的相似性度量。2.确定某个评价聚类结果质量的准则函数。3.给定某个初始分类，然后用迭代算法找出使准则函数取极值的最好聚类结果。C均值算法的基础是误差平方和准则。若将N个样本{x1,…,xN}划分到k个类{C1,…,Ck}中，k为一正整数，目标：使得各个数据与其对应聚类中心点的误差平方和最小。设mi是这些样本的均值。设Ji为第 i类聚类的目标函数，且满足下列条件：k为聚类个数x是划分到类Ci的样本m1,…,mk是类C1,…,Ck的质心（均值向量），那么有：J是误差平方和聚类准则，它是样本集和类别集的函数。J度量了用k个聚类中心代表的k个样本子集所产生的总的误差平方。C均值聚类算法流程：1. 初始化：随机选择k个样本点，并将其视为各聚类的初始中心m1,…,mk；2. 按照最小距离法则逐个将样本x划分到以聚类中心m1,…,mk为代表的k个类C1,…,Ck中；3. 计算聚类准则函数J，重新计算k个类的聚类中心m1,…,mk；4. 重复Step 2和 3直到聚类中心m1,…,mk无改变或目标函数J不减小。模糊C均值算法：C均值算法的目的是把n个样本划分到c个类别中的一个中，使各个样本与其所在类均值的误差平方和最小。而将这种硬分类变为模糊分类，就可得到模糊c均值算法。设μj(xi)是第i个样本xi属于第j类Gj的隶属度, 利用隶属度定义的准则函数为其中, b1是一个可以控制聚类结果的模糊程度的常数。进一步, 要求一个样本属于各个聚类的隶属度之和为1, 即其中, λi(i=1, 2, …, N)为拉格朗日乘子。 分别求L对mi、 λi和μj(xi)的梯度(或偏导), 并置为0, 可得必要条件: 模糊C均值算法采用迭代方法求解式(8-62)和式(8-63), 其步骤如下: 　　(1) 设定聚类数目C、 参数b和一个适当的小数ε0, 通常取1b≤5。　　(2) 设置初始模糊分类矩阵U(0), 令s=0。(3) 根据式(8-62)计算U(s)的聚类中心{m(s)j, j=1, 2, …, C}。 (4) 按下面的方法更新U(s)为U(s+1): 　　① 计算Ii和 ，其中（i=1,2,…,N）② 计算xi的新隶属度。 如果Ii为空集, 则按式(8-63)计算隶属度; 否则, 并取(5) 选取一个适当的矩阵范数, 如果‖U(s)－U(s+1)‖ε, 则停止迭代, 否则s=s+1, 返回(3)。 　　当模糊C均值算法收敛时, 就得到了各类的聚类中心和各个样本属于各类的隶属度, 也就完成了模糊聚类。 进一步, 可以将模糊聚类结果去模糊化, 把模糊聚类变为确定性分类。源代码及测试结果：C均值算法：#include iostream#include fstream#include math.husing namespace std;voidCmeans(double **Date);double Distance(double *,double *);intmain(){inti,j;double **IrisDate=new double*[150];for(i=0;i150;i++){IrisDate[i]=new double[4];}ifstream file;file.open(Iris.txt);if(file.fail()){cout File doesnt exist! endl;file.close();cin.get();}else{for(i=0;i150;i++){for(j=0;j4;j++){fileIrisDate[i][j];}}file.close();}return 0;}voidCmeans(double **Date){inti,j;int N; //分类数cout Input how many group you want to divide：\n ;cin N;intequl=0;int *count=new int[N]; //每类样本数for(i=0;iN;i++){count[i]=0;}double **dist=new double*[150];for(i=0;i150;i++){dist[i]=new double[N];}double **C=new double*[N];for(i=0;iN;i++){C[i]=new double[4];}//初始化聚类中心for(i=0;iN;i++){for(j=0;j4;j++){C[i][j]=Date[i][j]; //以前N