数据挖掘算法以及其实现--..docVIP

实验一 分类技术及其应用 实习要求： 基于线性回归模型拟合一个班学生的学习成绩，建立预测模型。数据可由自己建立100个学生的学习成绩。 算法思想： 最小二乘法设经验方程是y=F(x)，方程中含有一些待定系数an，给出真实值{(xi,yi)|i=1,2,...n},将这些x,y值 代入方程然后作差，可以描述误差：yi-F(xi)，为了考虑整体的误差，可以取平方和，之所以要平方是考虑到误差可正可负直接相加可以相互抵消，所以记 误差为： e=∑(yi-F(xi))^2 它是一个多元函数，有an共n个未知量，现在要求的是最小值。所以必然满足对各变量的偏导等于0，于是得到n个方程： de/da1=0de/da2=0...de/dan=0 n个方程确定n个未知量为常量是理论上可以解出来的。用这种误差分析的方法进行回归方程的方法就是最小二乘法。 线性回归如果经验方程是线性的，形如y=ax+b，就是线性回归。按上面的分析，误差函数为： e=∑(yi-axi-b)^2 各偏导为： de/da=2∑(yi-axi-b)xi=0de/db=-2∑(yi-axi-b)=0 于是得到关于a,b的线性方程组： (∑xi^2)a+(∑xi)b=∑yixi(∑xi)a+nb=∑yi 设A=∑xi^2,B=∑xi,C=∑yixi,D=∑yi，则方程化为： Aa+Bb=CBa+nb=D 解出a,b得： a=(Cn-BD)/(An-BB)b=(AD-CB)/(An-BB) 编程实现算法 C++程序： #includeiostream #includemath.h using namespace std; void main() { double x,y,A=0.0,B=0.0,C=0.0,D=0.0,delta,a,b; int n,sno,avgstudy; cout请拟合输入样本数目endl; cinn; for(int i=0;in;++i) { cout请输入第i+1个学生学号endl; cinsno; cout请输入学生上自习时间，按照每天小时计算endl; cinx; cout请输入学生请输入平均成绩endl; ciny; A+=x*x; B+=x; C+=x*y; D+=y; } delta=A*n-B*B; a=((C*n-B*D)/delta); b=((A*D-C*B)/delta); couta=ab=bendl; if(fabs(delta)1e-10) { cerrError!Divide by zeroendl; } else { couta=((C*n-B*D)/delta)endl b=((A*D-C*B)/delta)endl; } cout输入您想预测的成绩，先输入平均日自习时间（小时）endl; cinavgstudy; couta*avgstudy+b; } } 输出运算结果 输入是将各个同学的上自习的时间 按照小时计算 比如（4，85）（5，94），将成绩和上自习时间进行相应的线性回归 ，推导出相应的线型方程，以便今后对其他学生上自习以及成绩的估测。 实习二 聚类技术及其应用 实习题1 编程验证单连接凝聚聚类算法，实验数据可使用第五章表5.2 的数据进行。要求输出层次聚类过程中每一步的聚类结果。 实习题2 利用K-均值聚类算法对如下数据进行聚类，其中输入K=3，数据集为 { 2，4，10，12，3，20，30，11，25，23，34，22} 。 要求输出每个类及其中的元素。 1)算法基本思想的描述 Given k, the k-means algorithm is implemented in four steps: – Partition objects into k nonempty subsets – Compute seed points as the centroids of the clusters of the current partition (the centroid is the center, i.e., mean point, of the cluster) – Assign each object to the cluster with the nearest seed point – Go back to Step 2, st