分支界定.pdfVIP

优化中的分支定界方法及其在 计算机视觉中的应用 张强 2009.10.20 主要内容 1.回顾——凸函数与非凸函数 2.优化中的分支定界方法 3.分支定界方法在计算机视觉的应用 凸函数与非凸函数 f R n →R 函数 ： 为凸函数(convex function) ， ∀x , y ∈dom f 0 ≤θ≤1 如果其定义域为凸集，并且 ， ， 有 f (θx +(1−θ)y ) ≤θf (x ) +(1−θ) f (y ) B. Stephen and V. Lieven. Convex Optimization.  Cambridge University Press,  2004. 凸函数与非凸函数 非凸函数： f R n →R 函数 ： 为拟凸函数(quasiconvex‐ function) ，如果其定义域及所有的子集 Sα {x ∈dom f | f (x ) ≤α,α∈R } 为凸。 凸函数与非凸函数 非凸函数： 优化中的分支定界方法 分支定界(branch and bound)方法是解决非凸 优化全局极值的一种启发式方法。该方法利用目 标函数的上界或者下界对可行集进行删减，并最 终在一定精度上达到全局极小值。这种方法相当 于在整个可行集上逐点进行枚举，但由于在搜索 过程中不断更改可行集，所以其运算速度大大高 于一般搜索方法。 B. Kolman and R.Beck. Elementary Linear Programming with  Applications(international edition).  Academic Press, 1980. F. Kahl , S. Agarwal, and et al. Practical Global Optimization for Multiview Geometry. IJCV, 79:271‐284,2008. 优化中的分支定界方法 例：一个3变量的0，1优化问题 右图中根节点(root node)为整 个可行集，而其他节点为根节 点的子节点表示子可行集，连 接节点之的线称为分支(branch)， 从节点1到节点k的一系列分支组成一条通路 (path)，被未检查到的节点称为隐式枚举的 (implicitly enumerated)节点，反之称为显示枚举的 (explicitly enumerated)节点。隐式枚举节点的顶端 节点称为终止节点(terminal node)。 优化中的分支定界方法 一般的搜索方法在整个可行集中进行逐点枚举。 相比之下，分支定界方法能够利用一些条件进行 自顶向下的枚举，在这个过程中不符合条件的节 点成为终止节点，从而使得隐式枚举节点不用显 式的被检查，大大加快了计算速度。 优化中的分支定界方法 例：一个连续函数优化问题的分支定界方法 min Φ (x) st . l x u ≤ ≤ 优化中的分支定界方法 步骤1 * 给定初始最优估计值Φ(x )，及终止条件 。ε Φ(x ) Q 对 做凸松弛，计算出松弛函数在整个可行集 上的最小值 ′，如果 ′