knn算法介绍与参数调优.pdfVIP

KNN 算法介绍与参数调优 K 近邻法(k-nearest neighbors,KNN)是一种很基本的机器学习方法了，在我们平常的生活中也会不自 主的应用。比如，我们判断一个人的人品，只需要观察他来往最密切的几个人的人品好坏就可以得出了。 这里就运用了 KNN 的思想。KNN 方法既可以做分类，也可以做回归，这点和决策树算法相同。 KNN 做回归和分类的主要区别在于最后做预测时候的决策方式不同。KNN 做分类预测时，一般是选 择多数表决法，即训练集里和预测的样本特征最近的K 个样本，预测为里面有最多类别数的类别。而KNN