多变数函数边界最小值搜寻-元智大学最佳化设计试验室Optimal.PDF

多變數函數邊界最小值搜尋 作者 ：徐 業良 (1995-09-15) ，推薦 ：徐 業良 (2001-06-2 1) ；最 近更新 ：徐 業良 (2004- 作者 ：徐 業良 (1995-09-15) ，推薦 ：徐 業良 (2001-06-2 1) ；最 近更新 ：徐 業良 (2004- 10-18) 。 10-18) 。 智 大學機械工程研 究所 最佳化設計課 程 教材 ，僅限 於教學上學生個 附註 ：本文為 元 智 大學機械工程研 究所 最佳化設計課 程 教材 ，僅限 於教學上學生個 附註 ：本文為 元 人使用 ，原書初版由 宏明 書局印行 。 人使用 ，原書初版由 宏明 書局印行 。 多變數函數邊界最小值搜尋 這一章中主要在討論解有限制條件最佳化模型的數值演算法，也就是一般所謂 「非線性規劃(non-linear programming) 」的範疇。先前提到，求多變數函數內部最小 值大部分演算法都是屬於所謂直線搜尋法，不同演算法的迭代定義，只是在定義不 同的搜尋方向。然而解有限制條件最佳化模型的數值演算法的發展則有相當大的分 歧，主要可以分成兩類，一是序列近似法，二是直接搜尋法。 本章第一節起介紹的序列近似 法的 基本精神是 ， “用 一系列簡單易解的 子 序列近似 法的 基本精神是 ， “用 一系列簡單易解的 子 問題 (sub-problem) ，去近似原 先複 雜難解的問題 ，而希望這 一系列子問題的 近 問題 (sub-problem) ，去近似原 先複 雜難解的問題 ，而希望這 一系列子問題的 近 似解 ，能 夠逐漸逼 近原複 雜問題的 真解 ＂ 。什麼是“簡單易解的子問題＂呢？先 似解 ，能 夠逐漸逼 近原複 雜問題的 真解 ＂ 前介紹過解無限制條件的最佳化問題的演算法 ，了解如何求解這類問題後，相對於 有限制條件的非線性最佳化問題，無限制條件的最佳化問題自然是較為“簡單易 解＂的問題。因此本章第一節中所介紹的第一 類序列近似法，就是把原先有限制條 件的非線性最佳化問題，轉化成一系列的無限制條件求最小值的問題。 在介紹序列近似法的第二大類之前，本章第二節先介紹一類在最佳化領域有非 常重要地位的問題－「線性規劃 (linear programming) 」問題。線性規劃問題顧名思 義，其目標函數及限制條件均為線性的函數，這一類問題有非常強健而有效率的演 算法，可以迅速解出其最佳解，相對於有限制條件的非線性最佳化問題來說，線性 規劃問題又成了“簡單易解＂的問題。因此本章第四節中所介紹的第二類序列近似 法，便是把原先有限制條件的非線性最佳化問題，轉化成一系列的線性規劃問題。 序列近似法的概念，也經常是我們設計演算法求解工程最佳化問題時的基本想法。 1 .tw/ 多變數函數邊界最小值搜尋 本章第三節中所介紹的直接搜尋法，基本精神則與求多變數函數內部最小值的 直線搜尋演算法相似，也是定義一個可行且下降的搜尋方向，並在所定義的搜尋方 向求最小值，作為下一個迭代點。本章中將介 紹可行方向法與梯度投影法兩種不同 的演算法。 非線性規劃事實上是一個相當廣泛，且非常理論性的領域，各種非線性規劃的 演算法也都已經有商業軟體可供設計者使用。 本章對各個演算法的介紹，目的不在 對各種演算法背後艱澀的數學理論作深入探討 ，主要重點是在對各數值演算法發展 的系統脈絡、基本精神作一整理，使讀者在使 用商業軟體時能對其演算法的特性有 概括了解。 事實上絕大部分數值演算法假設所有函數是連續的、精確的、有解析形式而易 於計算的，在處理問題的精神上，是把最佳化問題視為純粹的“數學問題＂，然而 這與實際的工程最佳化問題有相當差距，工程最佳化問題中的函數通常是不連續、 不精確、沒有解析形式的。因此設計者在處理一般工程最佳化問題時，往往很難找 到現成的演算法或商用電腦程式，可以立即直接套用