蒙特卡罗最优化演示教学.pptVIP

Monte Carlo Optimization;主要内容;1.Numerical optimization methods in R;1.1.1 Bisection method(二分法）; ; 可以看出，二分法不会失效，达到指定精度所需要的迭代次数也是事先可以得到的。如果在区间[a,b]里方程有多个根，则二分; 时停止迭代。此准则可以不考虑x的单位情况下达到指定的精度。 ; 下面我们使用二分法求此方程的一个数值解。我们首先要找到一个区间，比如(0,5n)，使得函数 在区间两端有着不同的符号。然后即可使用二分法。 ;while(it 1000 abs(y[2]) eps) { it - it + 1 if (y[1]*y[2] 0) { r[3] - r[2] y[3] - y[2] } else { r[1] - r[2] y[1] - y[2] } r[2] - (r[1] + r[3]) / 2 y[2] - f(r[2], a=a, n=n) print(c(r[1], y[1], y[3]-y[2])) } } bisec(0,5*n);运行结果： true roots -4.239473 4.186841 ;1.1.2 Brent’s method;例2 应用uniroot求例1中的方程的根。 程序： a - 0.5 n - 20 out - uniroot(function(y) { a^2 + y^2 + 2*a*y/(n-1) - (n-2) }, lower = 0, upper = n*5) unlist(out) root f.root iter estim.prec 4.186870e+00 2.381408e-04 1.400000e+01 6.103516e-05 uniroot(function(y) {a^2 + y^2 + 2*a*y/(n-1) - (n-2)}, interval = c(-n*5, 0))$root [1] -4.239501 ; ;;;例3 使用Newton方法求例1方程的根。 程序： nt-function(b0){ a - 0.5 n - 20 f - function(y, a, n) { a^2 + y^2 + 2*a*y/(n-1) - (n-2) } fd-function(y,a,n){ 2*y+2*a/(n-1) };b1-b0 b0-b0-1 eps - .Machine$double.eps^0.25 it-0 while(it1000 abs(b1-b0)eps){ it-it+1 b0-b1 b1-b0-f(b0,a,n)/fd(b0,a,n) cat(it,c(b0,b1,abs(b1-b0)),\n) } } ;输入：nt(5) 输出结果： 1 5 4.252618 0.7473822 2 4.252618 4.187347 0 3 4.187347 4.186841 0.0005055338 4 4.186841 4.186841 3.032932e-08 Newton方法依赖于f的形状和初值。该方法从初值开始就发散。;;;;;;;;;;;运行结果：;;;;运行结果：; ;;;2.应用于求解随机优化问题的蒙特卡罗方法 ; 模拟退火算法来源于固体退火原理，将固体加温至充分高，再让其徐徐冷却，加温时，固体内部粒子随温??变为无序状，内能增大，而徐徐冷却时粒子渐趋有序，在每个温度都达到平衡态，最后在常温时达到基态，内能减为最小。根据Metropolis准则，粒子在温度T时趋于平衡的概率为e-ΔE/(kT)，其中E为温度T时的内能，ΔE为其改变量，k为Boltzmann常数。用固体退火模拟组合优化问题，将内能E模拟为目标函数值f，温度T演化成控制参数t， 即得到 ; 解组合优化问题的模拟退火算法：由初始解i和控制参数初值t开始，对当前解重复“产生新解→计算目标函数差→接受或舍弃”的迭代，并逐步衰减t值，算法终止时的当前解即为所得近似最优解，这是基于蒙特卡罗迭代求解法的一种启发式随机搜索过程。退火过程由冷却进度表(Cooling Schedule)控制，包括控制参数的初