模式识别导论PatternRecognition.ppt

模拟退火法 来源于统计力学。材料粒子从高温开始，非常缓慢地降温(退火)，粒子就可在每个温度下达到热平衡。 假设材料在状态i的能量为E(i)，那么材料在温度T时从状态i进入状态j遵循如下规律： 如果E(j) ≤E(i)，接受该状态被转换。 如果E(j)E(i)，则状态转换以如下概率被接受： 特征选择 模拟退火法(II) 在某一温度下，进行了充分转换后，材料达到热平衡，这时材料处于状态i的概率满足： 所有状态在高温下具有相同概率。 特征选择 模拟退火法(III) 当温度降至很低时，材料会以很大概率进入最小能量状态。 模拟退火优化法：f: x→R+，其中x∈S，表示优化问题的一个可行解。N(x)≤S表示x的一个邻域集合。 特征选择 模拟退火法(IV) 首先给定初始温度T0和初始解x(0)，以概率P生成下一个新解x’： 对于温度Ti和该优化问题的解x(k)，可以生成新解x’。 经过多次转换，降低温度得到Ti+1Ti。在Ti+1下重复上述过程，最终的解是对该问题寻优的结果。 特征选择 模拟退火法(V) 经过有限次转换，在温度Ti下的平衡态xi的分布为： 当温度T降为0时，xi的分布为： 特征选择 特征选择的模拟退火法 Step1: 令i=0, k=0, 给出初始温度T0和初始特征组合x(0)。 Step2: 在x(k)的邻域N(x(k))中选择一个状态x’，即新特征组合。计算其可分