智能理论和技术.pptVIP

智能理论与技术;课程纲要;最优化技术的重要性;传统最优化方法;传统最优化方法 －－无约束最优化方法;传统最优化方法 －－无约束最优化方法;5.1 黄金分割法;5.1 黄金分割法（图5.1.1）;5.1 黄金分割法;5.1 黄金分割法（图5.1.1）;5.1 黄金分割法;列题：min f(x)=2x2-x-1 初始区间［a1,b1]=[-1,1],精度L 0.16;5.1 黄金分割法;川飘弘农组摩溜恿椿汽酝瓮出酸形跪甲酶悉字翻蝗摸舶息匆针枯缉甭答何智能理论和技术智能理论和技术;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;;5.2 二次插值法;5.2 二次插值法;5.2 二次插值法;;5.3.1 单纯形算法概述;5.3.3 单纯形算法步骤一之初始化过程;5.3.3 单纯形算法步骤一之初始化过程;5.3.3 单纯形算法步骤一之初始化过程;5.3.3 单纯形算法步骤一之初始化过程;5.3.4 单纯形算法步骤二之反射过程;5.3.4 单纯形算法步骤二之反射过程;5.3.5 单纯形算法步骤三之扩展过程 ;5.3.6 单纯形算法步骤四之压缩过程 ;5.3.6 单纯形算法步骤四之压缩过程;X0∈En,h,E1,E2;传统最优化方法 －－无约束最优化方法;梯度与HESSE阵;最优梯度法;由?’(?)= -(? f(x(k)-?(k)g(k)))T g(k) =0即 （? f(x(k+1)))T g(k) =0或 (g(k+1))Tg(k)=0;最优梯度法;最优梯度法;最优梯度法解下题： min f(x)=2x12+x22 初点x(2) =(1,1)T , ?=1/10 ;共轭梯度法;共轭梯度法;共轭梯度法;共轭梯度法;牛顿法;原始牛顿法;原始牛顿法;阻尼牛顿法;阻尼牛顿法;取初始点: x(1)=(0,0)T.;牛顿方向为:;从x(1)出发,沿d(1)作一维搜索.得; 变尺度法也称拟牛顿法，它是基于牛顿法的思想而又作了重大改进的一类方法。我们所介绍的变尺度法是由Davidon于1959年提出又经Fletcher和Powell加以发展和完善的一种变尺度法，故称为DFP变尺度法。 拟牛顿法的基本思想是用不包含二阶导数的矩阵近似牛顿法中的Hessian矩阵的逆矩阵. ; 1、选定初始点和收敛精度 2、计算初始点处的梯度g1，选取初始对称正定矩阵H1=In。 3、计算搜索方向Sk= - Hkgk  4、沿Sk方向??维搜索，求步长?(k),使它满足 f( x(k)+ ?(k)d(k))=min f( x(k)+ ?d(k)) 令 x(k+1)= x(k)+ ?(k)d(k) 。 5、判断是否满足终止准则，若满足输出最优解，否则转6。 6、当迭代n次还未找到极小点，重置Hk为单位矩阵，并以当前点为初始点返回2，否则转7。; 7、计算gk+1= ,p(k)= xk+1 –xk,q(k)= gk+1 -gk . 利用 计算Hk+1置k=k+1,返回3.; 求 min 取初始点及初始矩阵为 且梯度为;第1次迭代: 从x(1)出发作一维搜索,得 得x(2) =x(1)+?(k)d(1)= ,g2=; 第2次迭代:p(1)= ?(k)d(1)= q(1)=g2-g1= ,利用公式可得H2= ;