可行方向法梯度投影法.pptVIP

解析搜索法：梯度投影法第30页，共46页，星期日，2025年，2月5日约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步长；受约束条件的限制。搜索方向需要满足的条件：目标函数下降的条件：约束条件：线性约束条件下搜索方向第31页，共46页，星期日，2025年，2月5日线性约束问题的Zoutendijk可行方向法起作用的约束不起作用的约束（1）搜索方向第32页，共46页，星期日，2025年，2月5日非线性约束问题的Zoutendijk可行方向法搜索方向迭代步长第33页，共46页，星期日，2025年，2月5日第1页，共46页，星期日，2025年，2月5日有约束优化问题非线性优化问题线性优化问题非线性约束优化问题线性约束优化问题（目标函数—非线性）（目标函数—线性）（约束—线性）（目标函数—非线性）（约束—非线性）（目标函数—非线性）（约束—线性）第2页，共46页，星期日，2025年，2月5日K-K-T条件（1）K-K-T条件K-K-T条件（梯度条件）（约束条件）（松弛互补条件）（非负条件）（正则条件或约束规格）线性无关定义：第3页，共46页，星期日，2025年，2月5日第4页，共46页，星期日，2025年，2月5日最优点，一定在与之间，所以可以起作用的非负线性组合表示。起作用的约束经过最优点，最优点满足所有的约束条件，这就是K-K-T条件，第5页，共46页，星期日，2025年，2月5日约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步长；受约束条件的限制。（一）基本概念：（1）起作用的约束：起到限制性作用的约束。（2）可行方向：点在可行域内的点，方向迭代后的新的点也是可行域内的点，则搜索方向称为可行方向。（3）可行下降方向：使目标函数下降的可行方向，称为可行下降方向。起作用的约束第6页，共46页，星期日，2025年，2月5日将每一个函数在处对函数进行taylor展开，取一次近四，则；（1）如果或，则搜索方向是下降方向。（2）如果在可行域内，，则总可取步长，得，使仍在可行域内，即任意搜索方向是可行方向。（3）如果在边界上，，则对某个步长来说，如果，则在可行域内，故可行的。（4）如果(3)的情况下，，或则位于在点的切平面上，只有为现行时，才是可行点。线性条件下非线性条件下线性条件下第7页，共46页，星期日，2025年，2月5日线性约束条件下搜索方向需要满足的条件：目标函数下降的条件：约束条件：约束条件搜索方向需要满足的条件：目标函数下降的条件：约束条件：第8页，共46页，星期日，2025年，2月5日二次规划可行方向法第9页，共46页，星期日，2025年，2月5日线性约束问题的Zoutendijk可行方向法解析搜索法：可行方向法起作用的约束不起作用的约束第10页，共46页，星期日，2025年，2月5日解析搜索法：可行方向法第11页，共46页，星期日，2025年，2月5日解析搜索法：可行方向法第12页，共46页，星期日，2025年，2月5日解析搜索法：可行方向法第13页，共46页，星期日，2025年，2月5日解析搜索法：可行方向法第14页，共46页，星期日，2025年，2月5日解析搜索法：可行方向法第15页，共46页，星期日，2025年，2月5日