约束优化-二次规划与SQP.pptVIP

实用优化方法第10章约束优化：二次规划与SQP数学与系统科学学院实用优化方法第10章约束优化：二次规划与SQP数学与系统科学学院约束优化问题可行域：特殊问题可行方向法－线性约束问题次梯度优化－对偶问题一般问题逐步二次规划法惩罚函数法内点法(原对偶内点法)－凸规划常用方法第10章：约束优化：二次规划与逐步二次规划法

ConstrainedOptimization:QuadraticProgrammingandSQP解的情况：无可行解、无界、有解其中G是n阶对称方阵，ai,d是n维常向量有解时：⊙G半正定：KKT点即为全局极小点⊙G正定：有惟一的极小点⊙G不定：局部解有可能不是全局解，此时找全局解是NP-难问题G半正定凸二次规划有价证券的组合优化⊙投资组合：设对第i项投资的资金投放比例为xi⊙问题：对收益与风险的折衷进行建模投资集合{1,…,n}，可能收益为ri

假定II所有资金均投资，不允许卖空

假定I设是随机变量有价证券的组合优化(续)⊙证卷组合：证卷组合的利润：证卷组合的期望收益和方差：G是半正定矩阵！⊙证卷组合优化(portfoliooptimization)：有价证券的组合优化(续)Markowitz引入风险容许参数(risktoleranceparameter)找出“最优的”证券投资组合！⊙参数，设定值依赖于投资者的个人偏好保守型投资者：大的参数取值冒险性投资者：小的参数取值等式约束二次规划01积极集法02逐步二次规划法03等式约束二次规划PART1等式约束二次规划其中假定:线性无关核心思想：消元法(基本、广义)其中，A1可逆等式约束二次规划－基本消元法代入q(x)消去x3等式约束二次规划－基本消元法(续)如果正定，解方程组可得惟一解找A的可逆子矩阵A1，进行消元等式约束二次规划－广义消元法令Y和Z分别是n×m与n×(n-m)矩阵，满足考察方程组ATx=b:Yb是特解；通解x=Yb+s，其中s是齐次线性方程组ATs=0的解任一可行解均可表示为:x=Yb+Zy如果ZTGZ正定，则原问题有惟一解，解方程组等式约束二次规划－广义消元法(续)构造Y和Z的正交分解法对矩阵A进行QR分解，即等式约束二次规划－广义消元法(续)1经典积极集法(classicalactive-setmethods)2求解凸和非凸二次规划问题－－中小规模(几百个变量！)3梯度投影法(gradient-projectionmethods)4界约束QP(BoxQP)!5内点法(interior-pointmethods)6大规模凸二次规划！实用二次规划算法综述积极集法PART2积极集法－问题技术注记：此处用线性约束规范代替LICQ!故二次规划的任一解x*均满足KKT条件其中G是n阶对称方阵，ai,d是n维常向量解的情况：无可行解、无界、有解G半正定凸二次规划最优积极集！积极集法－算法的动机(motivation)如果提前知道，求解对最优积极集进行猜测，并不断修正，直到得到正确的！考虑第k次迭代：x(k)是可行点，Wk是工作集(由等式约束和部分或全部积极不等式约束组成)其中积极集法－算法的原理◎x(k)不是当前等式约束问题的解，即s(k)≠0:⊙x(k)+s(k)满足其它约束：，工作集保持不变⊙x(k)+s(k)不满足某些约束，找阻滞约束和步长：称取到最小值的指标p对应的约束为阻滞(blocking)约束无阻滞约束时，工作集不变；否则给工作集添加一个阻滞约束积极集法－算法的原理(续)⊙乘子中与不等式约束对应的分量非负：x(k)是原问题的KKT点，进而是全局解◎x(k)是当前等式约束问题的解，即s(k)=0：设当前等式约束问题的Lagrange乘子是⊙否则，存在通常取指标q满