中科大模式识别课件Lec6.pdfVIP

Pattern Recognition Lecture 6 Stochastic Methods Apr. 1st, 2008 主要内容 • 随机方法简介 • 模拟退火算法 • 进化方法 – 遗传算法 – 遗传规划 – 进化规划 – 进化策略 主要内容 • 随机方法简介 • 模拟退火算法 • 进化方法 – 遗传算法 – 遗传规划 – 进化规划 – 进化策略 随机方法简介 • 为什么需要随机算法？ 之前讲到的方法大都是首先假设一个单参数或多参数的模型，再 根据训练样本来估计参数取值（学习问题转化为了优化问题）。 当优化问题极为复杂时，既不存在解析解，又无法用传统的优化 方法加以解决，则只能求助于随机（优化）算法。 随机方法简介 • 二次型问题： s i , 1, N , Λ – 给定多个变量 i