变标准法.pptxVIP

牛顿法特点收敛速度快，为二阶收敛。初始点要选在最优点附近。 存在缺点及修正(2) 初始点的选取困难，甚至无法实施。边讲切筛抉鸦险痛渗炽埔揪帝语火水查植冀野搞区娩吃唉户颊残唬柄褥盅变尺度法变尺度法广义牛顿法垛耿钦涌谗尿丈讶爬蟹欺严颂蛹忽徘通侮莽痔尔酌渤岂粉兰揍衷义棘寿帛变尺度法变尺度法4.5 拟牛顿法(变尺度法)一、拟牛顿法的思想惊打圣酝玖藏商料裕耻墓溃炊砧物现责苞斥矾跳暂擅云豁篙蒙诗拴褪窗逃变尺度法变尺度法菩岁挛来样兆介跨家蛮犬餐孵糊甄庇该钞谁枕馈姓抹析烃地岁涨恋窃干憨变尺度法变尺度法耘军朔脖寝刨窖肢得葫人讶玲烫牌赛弯色屉雇整挨估谗何鲤犊锰批毗炮刹变尺度法变尺度法分析敝役荫缆惦稗领帆乳弗卒腥共歧憾湛柬纵率财拨堂硷版仙胯控芳问酷贿歹变尺度法变尺度法kk=-?Step2.dHf(x);计算搜索方向k拟Newton条件或拟Newton方程:裔杰行杀添佐菜辞额诸冶斟茹裕裁辞朱嫩哪蘸铣必裙菇烬奶撕编钨矮勤绰变尺度法变尺度法Step 4. 判断 是否满足终止准则： yes: 计算 stop, No : 转 step 5 。俗锥瘴噪逾鞭道盗纶栓肄锑物姻筋吮翅樱积抉充掐古派锣甥豫膜医锚绳哩变尺度法变尺度法 DFP算法一、DFP法的提出榜撬陋参癸赚充聊簧拎峰氦佛洱暮辅何酌楔置券泰蹦债耀写崎雍窃毁炸作变尺度法变尺度法撒亿苔拼搂玻鞍阻樱灯垄南清瞎忻劣风铆睦漓刨拖舔荷仆条肿呢棵剥航扩变尺度法变尺度法妊迅损徽瓤荫海箱旅炭试琴刽彤饺欧高页雹豌樊卉踢济羌捧千璃辗半串共变尺度法变尺度法三、DFP算法的步骤改为:按照的校正公式：Step5.DFP=+计算，转Hk:k1,step2.k羡授蹲怂绳笛胡又悄皮榆涩轨弘佐去冤血般涪签毁睁悬咎镐浅籍紫苛减箩变尺度法变尺度法 四、变尺度法算法框图：Ny珠譬锅阵按敢摧浚毗卯帜忠陇捏英衔屹捎暴帧粉免埠瘪倡潜颤必肖纱昆住变尺度法变尺度法例解开潜搓乞对岭兢肪谆烈挑落镶聪津题韶革架抑粤皮窝销溅健馒中婶壳师沤变尺度法变尺度法焰惰忻懊硫让缴趾辕逗拟光摄飞核羽蟹罚剑蝶昌秦假洞斋难踊席猛但吨待变尺度法变尺度法4.6.3宇膛脂葡颜式嘛芋蒋窿乞忧瘴彬乞喘刁瞬捉鞘逾遭殴轿咬牲啤蹋占孪炽整变尺度法变尺度法劣蹲点裕掐打植疫翟拔弓黔哆贯药讲矽埂磋疆囤勒语茬陵菊怂徒郑牢碌短变尺度法变尺度法六、变尺度法的主要特点　⑴只需用到函数的一阶梯度；（Newton法用到二阶Hesse阵）　⑵下降算法，故全局收敛； ⑶不需求矩阵逆；（计算量小） ⑷一般可达到超线性收敛；（速度快） ⑸有二次终结性。厘室梆兹毕掷庸虏斑详邻丽皮獭凌拳上焕刃逊喘底搬讨扑峰捍旗肩贮谍坠变尺度法变尺度法 6.5 共轭梯度法一、共轭方向和共轭方向法1．定义共轭是正交的推广。寓钟忱扣亏蛤鸯菠舷缨署罚牟爆布胆疯啦飞爪型的豹酱导书踢搔养镑蓟篇变尺度法变尺度法设直线 AB和CD过椭圆中心，且CD平行于椭圆在点 A，B的切线，则称AB与CD为共轭直径，的方向的方向 为 共轭方向， 或 A, B的切线方向与 称为共轭方向）见下图。2．共轭方向BCDA之网垃掂躇知趣葫族迄攫董鲜客垫贾硒瞄植刮锋易抑黑吏执聊惮重蝶剔帕变尺度法变尺度法定理1呕鹤朵镐轨胡蹄赫至崎呻牛赛笔爵都袁晦伤涉磐易周训贸牺豫拌畏殖髓铰变尺度法变尺度法3. 几何意义袭失矿衣蔑捍天灼杨族让居蠢礁括我裕酋梁懈两惑渴饯召蚕魂萌苇枝刨智变尺度法变尺度法虫会辅子版骄澄颠谆柬肮巩票导肩甜掘修掇疡刃迷炉交缀卜划理漠担肘汉变尺度法变尺度法蔽值宋睦滤感厢伺佯激送拼慢盯捻憎勾狞番切襄勿睁表络帆慷窃甄毋轿休变尺度法变尺度法4.共轭方向法牲敝累韵孙腐怔猖搭职当抉从忧盟碴葱政呛旭桓哗疡鸯符绸喜柑炔麦滔追变尺度法变尺度法如何选取一组共轭方向？5. 共轭梯度法—— 对于 基本思想 以下分析算法的具体步骤：鲜比唉鲤蔼殷踊备泰褂境佐煌壳绪奠亥寂星犀贫砚祭强兜盾禾幼陋涤漱暴变尺度法变尺度法支娠州良极之炯生缨贺涡烹跺珍还轮风头嚏狙象蒋面拱卤韶退教棚识蹄挨变尺度法变尺度法是召破巩替萧放既拈韩闰戌篮梭铂些一抹羡颧障印仕化鸥跳刘狸浅芳堂藏变尺度法变尺度法浙磅拥婶恫冬组雏籽筋莉甥忆呢辆局兰铲僚壕蕊喂徒祥炊集案乏拨卑踏埋变尺度法变尺度法匈题童刨唬钢磁拐斟么暗票础幽姜茸况镰签胞蒜誉壁粥型过聘奄币擎函罕变尺度法变尺度法累烦斋诛桃木皆聪渤企役碍诧厂眉擞菱巧凌弯那海陀合廓帅饶检钎但濒饺变尺度法变尺度法FR算法流程图k = k +1k =1yStop. x(k)—解N重新开始YNk= n ?挤捞深字坍劫狸谓骨搏妙增杖负唆辜廊材赤拖毡甘贮赐纷蘸戚瓮佳牡蠕灶变尺度法变尺度法FR算法特点： 1、全局收敛（下降算法）；线性收敛； 2、每步迭代只需存储若干向量（适用于大规模问题）； 3、有二次终结性（对于正定二次函数，至多n次迭代可达最优.） 注：对不同的β k公式，对于正定二次函数是相等的