华南理工大学《高级人工智能》演讲报告书总汇.docx

华南理工大学《高级人工智能》演讲报告书题目：Machine learning: Trends, perspectives, and prospects(Unsupervised learning and feature reduction)学 院 计算机科学与工程 专 业 计算机科学与技术（全英创新班）学生姓名 黄炜杰 学生学号 201230590051指导教师 陈琼起始日期 2015年11月1日选题概述【小组论文选题】Machine learning: Trends, perspectives, and prospects.【个人完成部分】Unsupervised learning and feature reduction论文学习报告【论文结构】通过对论文的三次细读，本人对论文内容结构理解如下：机器学习的定义与发展现状机器学习核心算法有监督学习有监督学习综述深度学习综述无监督学习无监督想学习综述特征降维方法强化学习机器学习中亟待解决问题数据隐私性数据分布性机器学习发展机遇与挑战【内容总结】根据本人的理解，对文章的所有内容进行了如下总结：机器学习的定义与发展现状：机器学习主要集中在研究2个问题：机器能否通过经验提升性能？是什么样的统计理论原理支持着所有的学习系统?机器学习在这几十年取得了长足的发展。之所以机器学习取得那么大的进步，是通过经验学习的机器，比纯手工打代码高效得多。学习问题可定义为对经验的研究来提高某个度量函数，这个度量函数可以是有监督学习里的准确率等。机器学习中有很多算法，总的来说可以看作为对待选解集的一个搜索，这个搜索是通过对经验的学习来对性能进行优化的过程，根据待选解的表示、搜索的方法，机器学习算法可以分为很多类。机器学习算法背后依靠的原理就是统计学中的最优化原理，机器学习是计算机科学与统计学的交叉学科，这个交叉学科仍处在发芽阶段。最近由于大数据的兴起，算法可伸缩性、数据隐私性等问题对机器学习算法提出了新的挑战。其中算法可伸缩性还需要解决的是一个数据粒度性问题。机器学习核心算法：2.1有监督学习：有监督学习的应用很广泛，有如垃圾邮件过滤、人脸识别等。有监督学习是度量函数最优化的一个典型例子，学习的任务就是学习一个映射函数f，把任何输入样本x*映射到类别y*上。其中发展最为成功的是二分类问题，在多分类、ranking、结构预测问题上也有丰富的研究成果。其中卓越的算法有如决策树、逻辑回归、支持向量机、神经网络等。一些通用性比较强的学习算法受到了学者们的认可，其中主要以集成学习为主。集成学习集成了多个分类器的学习结果，对数据的判别具有普遍性。因为现实问题的提出，对有监督学习算法提出了各种各样的要求，根据算法复杂度和性能的折衷，已有很多成功的算法。2.1.1深度学习：深度学习是近几年最热门的课题之一，是对人工神经网络的提升。深度学习网络由多层的threshold单元组成，利用梯度原理对网络的权值进行优化调整，使得误差最小化。因为算法的卓越性，它可以处理几百万个参数、大规模的数据集，正因为具有如此良好的伸缩性，这个算法已成功应用在计算机视觉、自然语言处理等领域。如今深度学习的领域仍然处于膨胀阶段，越来越多的学者投入到此领域中，发展前景无可估量。2.2 无监督学习：无监督学习是对无标签数据学习的一个过程。其中最具有代表性的是聚类学习，聚类的任务是把数据组成数据簇，使得簇内数据相似度最大，簇间数据相似度最小。特定的聚类算法都是对数据具有一定的分布假设，通过分布的假设发现数据的内在结构。与聚类相似，特征降维也是基于对数据分布的假设进行的，部分特征降维算法可以视为无监督学习。特征降维在大数据处理上的地位尤为重要，著名的特征降维方法有如PCA、LDA等。2.3 强化学习：所谓强化学习就是智能系统从环境到行为映射的学习，以使奖励信号(强化信号)函数值最大，强化学习不同于连接主义学习中的监督学习，主要表现在教师信号上，强化学习中由环境提供的强化信号是对产生动作的好坏作一种评价(通常为标量信号)，而不是告诉强化学习系统RLS(reinforcement learning system)如何去产生正确的动作。由于外部环境提供的信息很少，RLS必须靠自身的经历进行学习。通过这种方式，RLS在行动-评价的环境中获得知识，改进行动方案以适应环境。2.4 三种学习算法的结合：三种学习算法都取得了一定的成功，近期的研究很多集中在三种算法的混合当中，其中的例子有如半监督学习，在聚类过程中，部分样本的类属关系可以得知，而这个有监督的类属关系作为约束提供在无监督聚类当中。另外的例子有如模型选择、主动学习、causal学习等。很多的问题影响到学习算法的设计，其中包括串行与并行性、