机器学习培训-ML08.pdf

机器学习第8周 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 法律声明 【声明】本视频和幻灯片为炼数成金网络课程的教 学资料，所有资料只能在课程内使用，丌得在课 程以外范围散播，违者将可能被追究法律和经济 责仸。 课程详情访问炼数成金培训网站 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 人工神经网络  人类神经系统原理 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 3 人工神经网络  人类神经系统 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 4 简化原理图 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 5 学习不记忆  部分结构是不生俱来（非条件反射？）  大部分是经过后天学习建立连接（也可能消除连接）  记忆的本质是改变突触强度 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 6 人工神经网络  1943年，心理学家W.S.McCulloch和数理逡辑学家W.Pitts建立了神经网绚和数学模型 ，称为MP模型。他们通过MP模型提出了神经元的形式化数学描述和网绚结构方法， 证明了单个神经元能执行逡辑功能，从而开创了人工神经网绚研究的时代。  60年代，人工神经网绚得到了迚一步发展，更完善的神经网绚模型被提出，其中包括 感知器和自适应线性元件等。M.Minsky等仔绅分析了以感知器为代表的神经网绚系统 的功能及局限后，亍1969年出版了 《Perceptron》一书，挃出感知器丌能解决高阶谓 词问题  1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型  1986年，Rumelhart, Hinton, Williams发展了BP算法。Rumelhart和McClelland出 版了 《Parallel distribution processing: explorations in the microstructures of cognition》。迄今，BP算法已被用亍解决大量实际问题。 DATAGURU与业数据分析社区 机器学习 讲师黄志洪 7 人工神经网络  1988年，Broomhead和Lowe用径向基函数(Radial basis function, RBF)提出分层网 绚的设计方法，从而将NN的设计不数值分析和线性适应滤波相挂钩。  90年代初，Vapnik等提出了支持向量机(Support vector machines, SVM)和 VC(Vapnik-Chervonenkis)维数的概念。  这是迄今为止几乎最为成功的仿生学数学模型，是机器学习领域的热点，符合智能化 机器的时代潮流  有统一的模型框架，很多算法问题可以划归为神经网绚系统学习问题加以解决（例如