机器学习相关知识点.docVIP

机器学习相关知识点

机器学习基础知识

1.定义与分类

机器学习是人工智能的一个分支，它使计算机系统能够利用经验（数据）改进其性能。机器学习可以分为以下几类：

1.1监督学习：通过已标记的训练数据学习输入到输出的映射关系。

1.2无监督学习：处理未标记数据，目的是发现数据中的隐藏结构或模式。

1.3半监督学习：利用部分标记和部分未标记的数据进行学习。

1.4强化学习：智能体通过与环境交互，根据获得的奖励或惩罚来学习最优策略。

2.监督学习

2.1回归分析：预测连续值输出，如线性回归、多项式回归、岭回归等。

2.2分类算法：预测离散类别输出，如逻辑回归、支持向量机（SVM）、决策树、随机森林、K近邻（KNN）、朴素贝叶斯等。

3.无监督学习

3.1聚类分析：将数据点分组，如K均值聚类、层次聚类、DBSCAN等。

3.2降维技术：减少数据维度，保留重要信息，如主成分分析（PCA）、线性判别分析（LDA）等。

3.3关联规则学习：发现数据项之间的有趣关系，如Apriori算法。

4.模型评估

4.1交叉验证：将数据集分为训练集和验证集，以评估模型的泛化能力。

4.2性能度量：评估分类模型性能的指标，如准确率、精确率、召回率、F1分数等；评估回归模型性能的指标，如均方误差（MSE）、均方