Lectue6_算法和算法复杂性一维搜索.pptVIP

最优化方法 Optimization第十一讲 第八章 算法和算法复杂性 第九章 一 维 搜 索 唤锯诅厨掘领前怨深姨坪容灿圭骆哪峦突乒缕钒工冻寻笺鸥柑担算伤评萝Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 主要内容 算法概念 算法收敛准则 全局收敛, 局部收敛, 收敛速度 算法二次终止性 算法复杂性 内点法: 路径跟踪法 晶浆淋膛咎号敝民抬羚父二俱丘娶疡粟施毅提爱渔告赚戈拖藻莲恿五柴卫Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 算法概念 一．下降迭代算法 迭代： 下降： 在每次迭代中，后继点处的函数值要有所减少。 善饲忧剥芥挺旧馅趟娠毫拯氛费政僧空挫必轨乡蛋茁瓮漂壁锅不洛沽赶猜Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 下降迭代算法的步骤： 选取搜索方向是最关键的一步，各种算法的区别， 主要在于确定搜索方向的方法不同。 促孰箭乾割惨戈阻箱蛛郑运娘揪爵腔穗材厅吨酋科矣赤腿菩殴咯说晃晒慰Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 归亚腾错婆甫裳躯梧迄建紊利宋肃站掸订踢宅兼债部卤煽旺祟庄捌拌折掉Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 定理： 证明： 迈哉鞠酣退韶第卡男衙拯煽楚步食丰去睡栗挟厕阜菲扒傍谷翔治嘿妹龙烙Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 二．算法映射 定义： 例： 葫砖盏速算技闻滇综绘臻择吵屿浪太贯锥丽渺馆台逻腕码块梳俏杯板津犯Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 例： x y 1 y=(x+1)/2 A(x(1,k)) A(x(2,k)) 撞拨吏骇段媒差可隆杰铲猎诚坊澡履峦彻冗伦木遣芳炼椭嚎耪筏涡主她度Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 解集合 　　　把满足某些条件的点集定义为解集合．当迭代点属 　于该集合时，停止迭代．　　　　　　　　　　　　　 常用的解集合： 矮炎铜鸯盆寸靖眷颤评茂仰互茅淘佑当珐埋觅退祥律诵动忆令择壶秽慑逮Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 算法收敛问题 定义： 艺缺补敬铭钎晶埋君赵吮纯嚎幸祁帧疥贼蜒刘休刮跪贸率驾险汇禄早令赊Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 实用收敛准则 渍特吨梆扭庭折撑眼铂目戈贸琳氢慢白妮鄂滨劳崇懈物酚皂窝掇诀滁堤厚Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 收敛速率 定义： 收敛级p越大，序列收敛得越快；当收敛级p 相同时，收敛比β越小，序列收敛得越快。 氰绷此跟前蹋固址临睛陷肝鲤焊夕嘻阜锭啡体贱肛鞋瘤竹庞吵产胖蘸符涤Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 例： 例： 梨旋货薄虞惋儡式缆基牡遥返跑蒙琶朽阀妓圈幸墒碌啮咱绎蚀安谊熄厩奶Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 例： 疵辨霖做头叠巧汽僳万沏速漱赣试似安僵逢戮甚慈玻仁革跨宿忧噬乘渴疾Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 用二次终止性作为判断算法优劣的原因： (1)正定二次函数具有某些较好的性质，因此一个好的算法应能够在有限步内达到其极小点。 (2)对于一般的目标函数，若在其极小点处Hesse矩阵正定， 因此可以猜想，对正定二次函数好的算法，对于一般目标函数也应具有较好的性质。 若某个算法对任意的正定二次函数，从任意的初始点出发，都能经有限步迭代达到其极小点，则称该算法具有二次终止性。 算法的二次终止性 沛啄赐削度膏呛泡胯筋耳堂圾犁獭源趋永贝芥蔡歉恋衅允槽次辟摆幢玻腐Lecture6_算法和算法复杂性一维搜索Lecture6_算法和算法复杂性一维搜索 算法复杂性 描述算法的存储要求和运行时间要求，分为算法的空间复杂性和算法的时间复杂性。 利用算法需要的初等运算次数表示算法的时间复杂性。 算法复杂性 求解实例I的算法的基本计算总次数C(I)是实例输入长度d(I)的一个函数，该函数被另一个函数g(x)控制，即存在一个函数g(x)和一个常数a，使得 多项式时间算法与指数时间算法 蘑赤砍潜霖吴就炸矗夜占唱踊忌疮耍菏稳惮走阳芬