模式识别大作业--模糊C均值算法实现剖析.docxVIP

模式识别大作业 --C均值算法 模糊C均值算法 算法简述： C均值聚类算法： C-均值算法属于动态聚类算法，动态聚类算法有以下三个要点：1.选定某种距离度量作为样本间的相似性度量。2.确定某个评价聚类结果质量的准则函数。3.给定某个初始分类，然后用迭代算法找出使准则函数取极值的最好聚类结果。 C均值算法的基础是误差平方和准则。 若将N个样本{x1,…,xN}划分到k个类{C1,…,Ck}中，k为一正整数，目标：使得各个数据与其对应聚类中心点的误差平方和最小。设mi是这些样本的均值。 设Ji 为第 i 类聚类的目标函数，且满足下列条件： k为聚类个数 x是划分到类Ci的样本 m1,…,mk 是类C1,…,Ck的质心（均值向量），那么有： J是误差平方和聚类准则，它是样本集和类别集的函数。J度量了用k个聚类中心代表的k个样本子集所产生的总的误差平方。 C均值聚类算法流程： 1. 初始化：随机选择k个样本点，并将其视为各聚 类的初始中心m1,…,mk ； 2. 按照最小距离法则逐个将样本x划分到以聚类中 心m1,…,mk为代表的k个类C1,…,Ck中； 3. 计算聚类准则函数J，重新计算k个类的聚类中心 m1,…,mk ； 4. 重复Step 2和 3直到聚类中心m1,…,mk无改变 或目标函数J不减小。 模糊C均值算法： C均值算法的目的是把n个样本划分到c个类别中的一个中，使各个样本与其所在类均值的误差平方和最小。而将这种硬分类变为模糊分类，就可得到模糊c均值算法。 设μj(xi)是第i个样本xi属于第j类Gj的隶属度, 利用隶属度定义的准则函数为 其中, b1是一个可以控制聚类结果的模糊程度的常数。 进一步, 要求一个样本属于各个聚类的隶属度之和为1, 即 其中, λi(i=1, 2, …, N)为拉格朗日乘子。 分别求L对mi、 λi和μj(xi)的梯度(或偏导), 并置为0, 可得必要条件: 模糊C均值算法采用迭代方法求解式(8-62)和式(8-63), 其步骤如下:  　　(1) 设定聚类数目C、 参数b和一个适当的小数ε0, 通常取1b≤5。 　　(2) 设置初始模糊分类矩阵U(0), 令s=0。 (3) 根据式(8-62)计算U(s)的聚类中心{m(s)j, j=1, 2, …, C}。 (4) 按下面的方法更新U(s)为U(s+1):  　　① 计算Ii和 ，其中 （i=1,2,…,N） ② 计算xi的新隶属度。 如果Ii为空集, 则按式(8-63)计算隶属度; 否则, 并取 (5) 选取一个适当的矩阵范数, 如果‖U(s)－U(s+1)‖ε, 则停止迭代, 否则s=s+1, 返回(3)。  　　 当模糊C均值算法收敛时, 就得到了各类的聚类中心和各个样本属于各类的隶属度, 也就完成了模糊聚类。 进一步, 可以将模糊聚类结果去模糊化, 把模糊聚类变为确定性分类。 源代码及测试结果： C均值算法： #include iostream #include fstream #include math.h using namespace std; void Cmeans(double **Date); double Distance(double *,double *); int main() { int i,j; double **IrisDate=new double*[150]; for(i=0;i150;i++) { IrisDate[i]=new double[4]; } ifstream file; file.open(Iris.txt); if(file.fail()) { cout File doesnt exist! endl; file.close(); cin.get(); } else { for(i=0;i150;i++) { for(j=0;j4;j++) { fileIrisDate[i][j]; } } file.close(); } return 0; } void Cmeans(double **Date) { int i,j; int N; //分类数 cout Input how many group you want to divide：\n ; cin N; int equl=0; int *count=new int[N]