机器学习导论第1章解析.ppt

回归（Regression） 思考2： 多属性如何回归？ 思考3 回归和分类的共同点是什么？ 监督学习（supervised learning） 回归和分类均为监督学习问题 即，输入x和输入y都是给定的，任务是学习从输出到输入的映射： y = g （x|θ）其中θ是模型参数。 回归y 取值是连续的（数值），而分类是离散的。 非监督学习 监督学习中，输出的正确值是由指导者提供的。而非监督学习中，却没有这样的指导者，只有输入数据。 非监督学习的目标是发现输入数据中的规律。 输入空间存在着某种结构，似的特定的模式比其他模式更常出现，我们希望知道的是哪些经常发生，那些不经常发生。在统计学中，这被称为密度估计（density estimation）。 聚类（Clustering） 聚类是密度估计的一种方法，其目标是发现输入数据的簇或者分组。 公司的客户数据 了解客户的分布 分组指导公司的决策 生物信息学（Bioinformatics）的应用 生物方面 基因, DNA是碱基A C G T 的序列，RNA有DNA转录而来，蛋白质由RNA转录而来。 DNA是碱基序列，蛋白质是氨基酸序列。 信息学方面 比对（alignment） 结构域（motif）蛋白质中反复出现的氨基酸序列，其序列结构表征结构和功能，如单双眼皮，遗传病等。 氨基酸是字母，蛋白质是句子，那么motif就是单词。 增强学习（Reinforcement learning） 在某些应用中，系统的输出是动作的序列。在这种情况下，单个动作并不重要，重要的是策略，即到达目标的正确动作序列。 机器学习程序应当能够评估策略的好坏程度，从以往好的动作序列中学习，以便能产生策略。这种学习方法称为增强学习方法。 人机对弈方面：例如棋牌类游戏，国际象棋，围棋等，每一步的规则只有少量几条，如何设计步骤的序列才是关键。 机器人导航方面，例如机器人足球。 总结机器学习方法的种类 监督学习 非监督学习 增强学习 相关资源 期刊： Machine Learning Journal of Machine Learning Research Neural Computation Neural Networks IEEE Transactions on Neural Networks Data Mining and Knowledge Discovery IEEE Transactions on Knowledge and Data Engineering SigKDD (Special interest Group on Knowledge Discovery and Data Mining Explorations Journal) 相关资源 会议 Neural Information Processing Systems Uncertainty in Artificial Intelligence International Conference on Machine Learning European Conference on Machine Learning Computational learning Theory International Joint Conference on Artificial Intelligence 习题 机器学习方法的种类有哪些？每一类请举例。 假设我们的既定目标是构建识别垃圾邮件的系统，请问垃圾邮件中的什么特征使得我们能够确认它为垃圾邮件？计算机如何通过语法分析来发现垃圾邮件？如果发现了垃圾邮件你希望计算机如何处理它？ 分组题目 1 关联规则（Apriori） 2 隐马尔可夫模型 3 贝叶斯网络 4 决策树 5 集群算法 Bagging Boosting 6 支持向量机 7 人工神经网络 8 聚类 K均值聚类 期望最大化 层次聚类 9 主成分分析 * 人所固有的、用以认识客观事物的东西，叫做认识能力。人的认识与客观事物想吻合，叫做智。人固有的掌握才能的能力，叫做能，或称为先天素质。这种先天素质与客观事物想符合，使活动达到成功的目的时，叫做智能。 * 生物也有智能：蚊子能够从水上垂直起飞，能轻巧地落在水面上，能够避开雨点飞行；蝙蝠在黑暗中的敏捷定位；海豚除雷… * 霍布斯：（1588-1679）与笛卡尔同时代的哲学家。 人类思维的全盘符号化、机械化可能吗？ 宇宙中存在的只有物质组织，而人则是其中最完善的一种。 ——拉.美特立 《人是机器》的作者 广义的计算包括数学计算，逻辑推理，文法的产生式，集合论的函