台湾义守大学《模拟退火法》讲义72587.pptVIP

模擬退火法Simulated Annealing 義守大學工業工程與管理研究所 報告人：洪永耀 簡介 模擬退火法（ Simulated Annealing；SA） 最早的想法是由N.Metropolis 等人於1953 年所提出，在當時並沒有受到重視。 直到1983 年由Kirkpatrick et al. 提出蒙地卡羅模擬（MonteCarlo Simulated）概念的隨機搜尋技巧，利用此方法來求解的組合最佳化問題時，才使此演算法受到重視。 簡介 SA的觀念主要來自於固體加熱至一定的溫度後，固體間的分子結構會被打散瓦解變為液態結構， 接著再對其降溫過程加以控制，當完全冷卻能使其分子在液態結構轉變為固體結構時，重新排列成我們所預期的穩定狀態 簡介 當目前狀況是落於區域的最佳解時，模擬退火法會藉由重新加熱的動作，透過隨機的過程，以機率性質來接受一個暫劣解使其演算法能跳脫目前的區域最佳解，而有機會能達到另一個最佳解 簡介 模擬退火法採用Metropolis的 接受法則（Accepting Rule） 並用退火程序（Annealing Schedule）的參數演算法的進行 而Metroplis 接受法則的概念則在於能使求解時跳脫陷入區域最佳解 而模擬退火法能否成功應用在於退火程序的合理選擇 簡介 假設在搜尋最佳解的過程中 若令i 代表在時間k 的現有解，其成本為C(i) 下一個搜尋到的解，其成本為C(j) D E = C(j) - C(i)為兩個解之間的成本差，如圖所示 簡介 當j 的成本大於i 時，SA 會根據一機率決定是否要接受j來取代i 成為時間k+1 的新解 因此當搜尋到的新解比現有解之成本大時，會有一個機率值來決定是否接受交換。 SA 基本上是以Metrolopis 接受法則為基礎，再配合退火程序，藉由溫度逐漸的降低來條整是否接受成本較差新解的機率，當溫度越低時，機率值也跟著降低 SA 的運作流程 包含了四個基本要素 系統狀態（Configuration）：即在某一個溫度下，系統產生的初始解，並當作目前的現行解 搜尋法則（Search rule）：在退火的過程中，由目前系統狀態經由隨機擾動而產生變化跳至另一種狀態 一般而言，SA 較常用的有梯度搜尋法（ Gradient Type） 和疊代改善法（ IterativeImprovement） SA 的運作流程 包含了四個基本要素 成本函數（Cost Function）：用來衡量某一系統狀態下之能量函數 退火程序（Annealing Process）：退火程序中包含的參數有初始溫度、降溫機制、冷卻率和終止溫度 在退火的過程中，在溫度高的時候，雖然是較差的目標值，但有可能被接受當成目前的目標值，但隨著溫度慢慢的降低，接受較差目標值的機率逐漸降低 SA 的運作流程 退火程序之參數設定 初始溫度 為了防止落入區域極小的陷阱，在模擬退火法中初始溫度的設定必須使得大部份的轉移均可被接受 初始溫度的設定可以是一個定值， 如Kirkpatrick等學者 ( 1983 ) 將初始溫度定為10 Heragu 以及 Alfa ( 1992 ) 將初始溫度定為999 初始溫度亦可由所設定之移轉接受機率的門檻值 P 0來反推求得，如Kouvelis 以及 Chiang( 1992 ) 將初始溫度定為 退火程序之參數設定 終止條件 終止條件最簡單的設定方式是指定一個固定的終止溫度，一般是一個接近於零較小的數，或是限制降溫次數不超過預定值 其它方式則為檢查所求得的解是否有所改善，如在1992 年Kouvelis 與 Chiang設定若經過數次降溫後所得的解仍未改善或移轉接受比率低於一個定值，則將終止模擬退火法的運算。 退火程序之參數設定 降溫時機 降溫時機乃指馬可夫鏈長度，亦即在同一溫度下所應反覆進行Metropolis 演算的次數 最直接的方式是設定一個固定長度，但此長度與問題規模有關，如在1992 年Kouvelis 與Chiang 將其設定為鄰近解個數之比率。 此外亦可設定降溫時機為移轉接受次數已達一定值，如Heragu 以及 Alfa（1992）所使用的方式便是 但此一方式當溫度降至很低時，移轉接受之機率將會很小，進而導致馬可夫鏈過長，因此必須同時限定馬可夫鏈的長度，以免造成求解時間過長 退火程序之參數設定 溫度控制參數 溫度控制參數是指在演算過程中，若達到降溫時機時，由目前溫度減少到次一溫度的下降比率 若溫度控制參數愈小，則溫度下降的差距愈大，那麼會造成在次一溫度達成均衡所需的馬可夫鏈長度愈長，使得求解時間增加。 因此，為了避免在新溫度下的馬可夫鏈長度過長，溫度控制參數不應過小，Kirkpatrick 等學者（1983）將其設定為0.9，而一般則設定在0.5至0.9 之間 * *