机器学习研究进展.ppt

提纲 国际动向 我们的一些工作 /people/zhouzh/ /people/zhouzh/ 机器学习研究进展 周志华 /people/zhouzh/ Email: zhouzh@ 南京大学计算机软件新技术国家重点实验室 机器学习是人工智能的核心研究领域之一 经典定义：利用经验改善系统自身的性能 随着该领域的发展，主要做智能数据分析 典型任务：根据现有数据建立预测模型 机器学习 美国航空航天局JPL实验室的科学家在《Science》（2001年9月）上撰文指出：机器学习对科学研究的整个过程正起到越来越大的支持作用，……，该领域在今后的若干年内将取得稳定而快速的发展 生物 信息学 计算 金融学 分子 生物学 行星 地质学 …… 工业过程控制 机器人 …… 遥感信 息处理 信息安全 机 器 学 习 机器学习的重要性 美国航空航天局JPL实验室的科学家在《Science》（2001年9月）上撰文指出：机器学习对科学研究的整个过程正起到越来越大的支持作用，……，该领域在今后的若干年内将取得稳定而快速的发展 机器学习的重要性 入侵检测： 是否是入侵？是何种入侵？ 如何检测？ 历史数据：以往的正常访问模式及其表现、以往的入侵模式及其表现…… 对当前访问模式分类 这是一个典型的机器学习问题 常用技术： 神经网络 决策树 支持向量机 贝叶斯分类器 k近邻 序列分析 聚类 …… …… 例1:网络安全 常用技术： 神经网络 支持向量机 隐马尔可夫模型 贝叶斯分类器 k近邻 决策树 序列分析 聚类 …… …… 例2:生物信息学 Google的成功，使得Internet 搜索引擎成为一个新兴的产业 不仅有众多专营搜索引擎的公司出现（例如专门针对中文搜索的就有百度、慧聪等），而且Microsoft等巨头也开始投入巨资进行研发 Google掘到的第一桶金，来源于其创始人Larry Page和Sergey Brin提出的PageRank算法 机器学习技术正在支撑着各类搜索引擎 例3:搜索引擎 DARPA 2003年开始启动PAL（Perceptive Assistant that Learns）计划 5年期，首期（1-1.5年）投资2千9百万美元 以机器学习为核心的计划（涉及到AI的其他分支，如知识表示和推理、自然语言处理等）；包含2个子计划 总目标： “is expected to yield new technology of significant value to the military, business, and academic sectors” “develop software that will help decision-makers manage their complex worlds of multiple simultaneous tasks and unexpected events” 美国的PAL计划 RADAR (Reflective Agents with Distributed Adaptive Reasoning)，承担单位为CMU， 首期7百万美元 目标：“the system will help busy managers to cope with time-consuming tasks” “RADAR must learn by interacting with its human master and by accepting explicit advice and instruction” 美国的PAL计划: RADAR子计划 CALO (Cognitive Agent that Learns and Observes)， 承担单位为SRI，首期2千2百万美元 除SRI外，这个子计划的参加单位有20家： Boeing, CMU, Dejima Inc., Fetch Tech Inc., GATech, MIT, Oregon HSU, Stanford, SUNY-Stony Brook, UC Berkeley, UMass, UMich, UPenn, Rochester, USC, UT Austin, UW, Yale, … CALO无疑是PAL中更核心的部分 美国的PAL计划: CALO子计划(1) 目标： “the name CALO was inspired by the Latin word ‘calonis’, which means ‘soldier’s assistant’”