最优化原理与方法课后习题1.doc

第一章、预备知识 考虑二次函数 写出它的矩阵—向量形式: 矩阵Q是不是奇异的? 证明: f(x)是正定的 f(x)是凸的吗? 写出f(x)在点=处的支撑超平面(即切平面)方程 解: 1) f(x)= =+ 其中 x= ,Q= , b= 2) 因为Q= ,所以 |Q|==80 即可知Q是非奇异的 3) 因为|2|0, =80 ,所以Q是正定的,故f(x)是正定的 4) 因为=,所以||=80,故推出是正定的, 即 是凸的 5) 因为=,所以=(5,11) 所以 在点处的切线方程为5()+11()=0 二、 求下列函数的梯度问题和Hesse矩阵 1) =2++ 2) = 解: 1) = ( , ) = 2) =( , ) = 设f(x)=,取点.验证=(1,0,-1)是f(x)在点处的一个下降方向,并计算f(+t) 证明: = d=(1,0,-1)= -30 所以是f(x)在处的一个下降方向 f(+t)=f((1+t,1,1-t)) = f(+t)=6t-3=0 所以t=0.50 所以f(+t)=3*0.25-3*0.5+4=3.25 设（j=1,2,….,n）考虑问题 Min f(x)= s.t. (j=1,2,….,n) 写出其Kuhn Tuker 条件 证明问题最优值是 解：1）因 为目标函数的分母故 所以（j=1,…,n）都为0 所以Kuhn Tuker 条件为 即 +=0 2）将 代入 h(x)=0 只有一点 得 故有 所以最优解是. 五、使用Kuhn Tuker 条件，求问题 min f(x)= s.t. 的Kuhn Tuker 点，并验证此点为问题的最优解 解：x=(1/2,3/2) 故，=0 则 即 而 , 故 , 即其为最优解. 第二章、无约束优化问题 设f(x)为定义在区间[a,b]上的实值函数，是问题min{f(x)|a}的最优解。证明：f(x)是[a,b]上的单谷函数的充要条件是对任意 满足f()max{f(),f()}, 证明：不妨设,则 “必要性” 若 则由单谷函数定义知 故有 “充分性” 由，的任意性取=时，f()f() 则= 且f()f() 若取 =时, f()f() = 且 f()f() 满足单谷函数的定义 二、设, 1)证明:满足条件 的二次函数是（严格）凸函数 2）证明：由二次插值所得f(x)的近似极小值点（即的驻点）是 或者 证明：1）设= （） 则 由 得 或 故1）得证 2）的驻点为 或 三、设f(x)=试证：共轭梯度法的线性搜索 中，有 ， 其中 证明：由已知 ，得 令为t的凸二次函数。要使是的极小点即为驻点，故满足 而 = = = 故有 得 四、用共轭梯度法求解： min f(x)= , x 取初始点 解：易知 第一次迭代： 线性搜索得步长 从而 = 第二次迭代： 线性搜索得步长： 所以 最优解为 用拟Newton法求解： min 取初始点 解：1）DFC法 取初始对称矩阵 第一次迭代： 计算得， 经一维线性搜索得：=0.25 置 第二次迭代 经一维线性搜索得：=6.25 故最优解为： 2）BFGS法 取定初始对称矩阵 第一次迭代： 计算得， 经一维线性搜索得：=0.25 同DFP法，初始修正矩阵 第二