复杂分类器的简介.pptx

复杂分类器的简介;复杂分类器;支撑向量机 （support vector machine）;f ;f ;线性分类器;线性分类器;线性分类器;;;;;具体化分类超平面及其间隔;Plus-plane = { x : w . x + b = +1 } Minus-plane = { x : w . x + b = -1 } ;计算间隔;设 u 和 v 是 Plus Plane上的两个向量. 则 w . ( u – v ) 是多少? ;Plus-plane = { x : w . x + b = +1 } Minus-plane = { x : w . x + b = -1 } 向量 w 与 Plus Plane 垂直 设 x- 是 minus plane上任意一点 设 x+是plus-plane上距离 x-最近的点;Plus-plane = { x : w . x + b = +1 } Minus-plane = { x : w . x + b = -1 } 向量 w 与 Plus Plane 垂直 设 x- 是 minus plane上任意一点 设 x+是plus-plane上距离 x-最近的点 注: 对于某实数l， x+ = x- + l w. 为什么?;Plus-plane = { x : w . x + b = +1 } Minus-plane = { x : w . x + b = -1 } 向量 w 与 Plus Plane 垂直 设 x- 是 minus plane上任意一点 设 x+是plus-plane上距离 x-最近的点 注: 对于某实数l， x+ = x- + l w. 为什么?;现在我们知道: w . x+ + b = +1 w . x- + b = -1 x+ = x- + l w |x+ - x- | = M 于是很容易由w 和b 得到 M ;现在我们知道: w . x+ + b = +1 w . x- + b = -1 x+ = x- + l w |x+ - x- | = M 于是很容易由w 和b 得到 M;现在我们知道: w . x+ + b = +1 w . x- + b = -1 x+ = x- + l w |x+ - x- | = M ;学习最大间隔分类器;利用二次优化求解;What You Should Know;神经网络（Neural Networks）;引 言;ANN的研究内容;研究ANN方法;ANN研究的目的和意义;神经网络研究的发展;人工神经网络研究的局限性;人工神经网络概述 ;二、神经元与神经网络;神经元的信息传递和处理是一种电化学活动．树突由于电化学作用接受外界的刺激；通过胞体内的活动体现为轴突电位，当轴突电位达到一定的值则形成神经脉冲或动作电位；再通过轴突末梢传递给其它的神经元．从控制论的观点来看；这一过程可以看作一个多输入单输出非线性系统的动态过程 ;脑神经信息活动的特征;神经网络基本模型;神经元的数学模型 ;其中x＝（x1，…xm）T 输入向量，y为输出，wi是权系数；输入与输出具有如下关系： ;例如，若记 ;或 ;2、神经网络的数学模型 ;基本BP网络的拓扑结构; ANN类型与功能; 一般而言, ANN与经典计算方法相比并非优越, 只有???常规方法解决不了或效果不佳时ANN方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往往是最有利的工具。另一方面, ANN对处理大量原始数据而不能用规则或公式描述的问题, 表现出极大的灵活性和自适应性。;人工神经网络（Artificial Neuron Nets=ANN） ;问：如果抓到三只新的蚊子，它们的触角长和翼长分别为(l.24,1.80); (l.28，1.84)；（1.40，2.04）．问它们应分别属于哪一个种类？ ;思路：作一直线将两类飞蠓分开 ;分类结果：(1.24，1.80)，(1.28，1.84)属于Af类；(1.40，2.04）属于 Apf类．;?缺陷：根据什么原则确定分类直线？ ;再如，如下的情形已经不能用分类直线的办法： ;基本BP网络的拓扑结构;四、反向传播算法（B-P算法） ;假设有P个训练样本，即有P个输入输出对 （Ip, Tp）,p=1,…,P, 其中 ;;ipm= -1 , wim= (第i个神经元的阈值) （5） ;;图7 多层前馈网络 ;（3）设层与层间的神经元都有信息交换（否则，可设它们之间的权重为零）；但同一层的神经元之间无信息传输．;在上述假定下网络的