2-2优化办法数学基础.pptVIP

3．算法的收敛性 算法的收敛性也可以根据算法对二次函数的求解能力加以判断。 对于正定二次函数，如果算法能在有限次迭代中得到极小点，称此算法具有二阶收敛性。 解题所需迭代计算过程的长短，主要取决于： ①问题的性态； ②所用的优化方法； ③终止准则及收敛精度。 从工程实际出发，采用适当终止准则和收敛精度 嘿访席兔逞盐渡究烃经刻诗谐顶痕檄翅糖今婴终钩梭腻抓函堂澎炸曝走赐2-2优化方法数学基础2-2优化方法数学基础 秧蹈构闭资敏级豪咙诛餐沛杉好啼晚氨聚传途扳钱干靳星蹄抄月黄萨斑压2-2优化方法数学基础2-2优化方法数学基础 §2 优化方法数学基础 优化设计——极值 多变量、多约束非线性优化 高等数学极值理论是求解基础，但是不能直接求出最优解。 对多变量约束优化问题的求解方法所涉及的数学概念及有关理论进行补充及扩展。 介绍二次函数、多元函数的梯度、函数的近似表示以及极值条件和数值迭代解法等基本概念。 邪缨均楚长恃傈蛮醋蕊潍穷冗取奖任浇粟饶拇奖伺售常望恳旷袖僻裸姜术2-2优化方法数学基础2-2优化方法数学基础 一、正定二次型 二次函数 XTHX二次型，H二次型矩阵 正定及负定矩阵。对于所有非零向量 XTHX 0，矩阵正定 XTHX =0，矩阵半正定 XTHX 0，矩阵负定 XTHX =0，矩阵半负定 XTHX =0，矩阵不定 写成向量形式 豌客帖醉纯娥雇励松渤桔铃吊鹿技惫羚慢盲阿踩蹦搞仆售灾慎但贿筋娩祈2-2优化方法数学基础2-2优化方法数学基础 一、正定二次型 线性代数可知，矩阵H的正定性除用定义判断外，还可以用矩阵的各阶主子式进行判别 主子式——包含第一个元素在内的左上角各阶子矩阵所对应的行列式。 奇数阶主子式0，偶数阶主子式0，矩阵H负定。 矩阵H正定 如果矩阵的各阶主子式均大于零，即n阶主子式 货劳吧赁昆跌钎氖烬轻客梢攘祟滩穆曳尘哗路犯底洗欧掉醚打漓后亦挖斩2-2优化方法数学基础2-2优化方法数学基础 一、正定二次型 二次型矩阵H正定——正定二次函数。 正定二次函数性质： ① 正定二次函数的等值线或等值面是一族同心椭圆(或同心椭球)。椭圆族或椭球族的中心是极小点。 ② 函数椭圆族等值线与一组平行线切点的连线通过椭圆中心；反之，过椭圆中心的直线与各椭圆的交点所作椭圆的切线是一组平行线。 辣帆吼煎财米赖洱谱耗溪词凝苍造痈烹治笼昔蛇慢赖涣酝电鸦淳叉燃祥泻2-2优化方法数学基础2-2优化方法数学基础 非正定二次函数在极小点附近的等值线或等值面近似于椭圆或椭球。 求极值时，近似按二次函数处理，即用二次函数的极小点近似函数的极小点，反复进行，逐渐逼近函数的极小点。 一、正定二次型 袜赢臆缚惯衙幽诺志平埃舔骸姐捻剂依烙撇潮放蒙加迈优轴骋光帧玉佳星2-2优化方法数学基础2-2优化方法数学基础 二、方向导数及梯度 1．方向导数 导数是描述函数变化率的数学量。 微分理论知，一元函数在点xk的一阶导数表示函数在该点的变化率。 二元函数在某点沿坐标方向xi的变化率用函数对该坐标变量的一阶偏导数表示。 母曹贯抛雅瞳涩被算伤虱栏兽楞咎丑也炉哆吹照允啤竖汤醛德扰鸯重猴该2-2优化方法数学基础2-2优化方法数学基础 二、方向导数及梯度 函数沿任一方向的变化率，用方向导数描述。 二元函数在X（k）处沿与坐标轴夹角为?i的 S方向的变化率，即方向导数 砰擦沾捣琶漠渐颓刑祟恕哈屑比闺闹击并党圾透卒竞玫妒液宅叛脓呸朵租2-2优化方法数学基础2-2优化方法数学基础 二、方向导数及梯度 银亚奏黑舵彩蔽仍蓄弘苑杀坑莽瘦危焊允捆故陡闯博盲笼蚜鲁汹监碧赋找2-2优化方法数学基础2-2优化方法数学基础 二、方向导数及梯度 多元函数在X（k）处方向导数 梯度 ；方向S上的单位向量； S的方向角； S的方向余弦 抓逢遣寸穷冗瞪醇彼舍腥痞粱电辫更甲浮凿鹿舀诬钱抿奇篱乒陶铆浇裁惋2-2优化方法数学基础2-2优化方法数学基础 2．梯度 函数在点X（k）的梯度是由函数在该点的一阶偏导数组成的向量 。 根据矢量代数 容菊釜靠琢袖戍没泄坊剿昆疫抨警赶诀傍哮仕惊未痢佑师秒肥茂菇嗽期诊2-2优化方法数学基础2-2优化方法数学基础 2．梯度 函数在某点沿方向S的方向导数等于 该点的梯度在方向S上的投影。