计算机算法设计与的分析 新型算法.pptxVIP

四川大学计算机学院 左劼 新型算法 基本的确定性算法在很多时候不能满足要求 在现实世界中 ， 存在很多现象 ， 能自发地呈现 很好的性质 ， 虽然可能还不确切了解这些现象 的本质 从模仿这些现象出发而设计的算法 ， 在很多时 候能得到意想不到的优势 新型算法的引入 退火过程 人脑的条件反射 生物的进化 一些典型的自然现象 模拟退火算法 人工神经网络 进化计算 根据这些现象设计的算法 模拟退火算法 这是一种启发式随机搜索算法 将固体加温至充分高 ， 使得每一粒子都具有充分的随 机性 再让其徐徐冷却 ， 粒子渐趋有序 在每个温度都达到平衡态 ， 最后在常温时达到基态 ， 内能减为最小 如果急速降温(即为淬火)则不能达到最低点 模拟退火算法原理 如果其中一个磁体指向上方 ， 则它对整个系统 贡献一个单位的正的能量； 指向下方则为负。 随着能量的提高 ， 可能的状态数量是呈指数下 降的 ， 这就解释了准则中概率对E的关系。 大致说来 ， 高温给了系统更多的能量 ， 使出现 高能量的状态的概率增大 。这也定性解释了准 则中概率对T的相依关系： 在高温时 ， 所有状态出现的概率分布大致平均， 而低温时 ， 系统则集中分布在具有最低能量的 状态周围。 1)初始化： 初始温度T (充分大) ， 初始解状态S (是算法 迭代的起点) ， 每个T值的迭代次数L 2) 对k= 1 ， …… ， L做第(3)至第6步： 3) 产生新解S ′ 4) 计算增量ΔE=E (S ′)-E (S) ， 其中E (S)为评价函数 5) 若ΔE0则接受S ′作为新的当前解 ， 否则以概率 exp (- ΔE/T)接受S ′作为新的当前解. 6) 如果满足终止条件则输出当前解作为最优解 ， 结束 程序 。 终止条件通常取为连续若干个新解都没有被 接受时终止算法。 T逐渐减少 ， 且T0 ， 然后转第2步。 模拟退火算法的步骤 由于有T趋于0 ， exp (- ΔE/T) 也会趋于0， 从而在有(5)的存在下 ， 可以使得在迭代过程 中找到更好的解的概率越来越高。 模拟退火算法偶尔也能接受比较差的解的特点 也使得有别于常规的简单梯度下降算法或者贪 心算法 。而如果只在同一温度下进行迭代 ， 则 会使得找到最优解的概率大大降低。 模拟退火算法的特点 人工神经网络(ANN) T.Koholen的定义： 人工神经网络是由具有适应性的简单单元组成 的广泛并行互连的网络 ， 它的组织能够模拟生 物神经系统对真实世界物体所作出的交互反应 什么是人工神经网络 1. 巨量并行性。 2.信息处理和存储单元结合在一起。 3. 自组织自学习功能。 脑神经信息活动的特征 一般而言, ANN与经典计算方法相比并非优 越只有当常规方法解决不了或效果不佳时 ANN方法才能显示出其优越性 。 尤其对问题 的机理不甚了解或不能用数学模型表示的系统, 如故障诊断 、特征提取和预测等问题, ANN 往往是最有利的工具 。 另一方面, ANN对处 理大量原始数据而不能用规则或公式描述的问 题, 表现出极大的灵活性和自适应性 神经元模型 输出层LC W 隐含层LB V 输入层LA Wp 1 … W1j Wij BP神经网络结构 … … … … Vn 1 V V11 Wp q Vnp W1q Wiq V1i Vhi V1p Vhp c1 cj bi … Vni W11 W pj h1 BP网络的训练就是通过应用误差反传原理不断 调整网络权值使网络模型输出值与已知的训练 样本输出值之间的误差平方和达到最小或小于 某一期望值 BP网络采用误差反传算法 ， 其实质是一个无约 束的非线性最优化计算过程 神经网络的训练 训练神经网络的首要和根本任务是确保训练好 的网络模型对非训练样本具有好的泛化能力 （推广性） ， 即有效逼近样本蕴含的内在规律， 而不是看网络模型对训练样本的拟合能力 因此 ， 仅给出训练样本误差（通常是指均方根 误差RSME或均方误差 、AAE或MAPE等） 的 大小而不给出非训练样本误差的大小是没有任 何意义的 网络模型的性能和泛化能力 遗传算法 遗传算法（Genetic Algorithms ， 简称GA） 根据适者生存 ， 优胜劣汰等自然进化规则来进 行搜索计算和问题求解。 对许多用传统数学难以解决或明显失效的复杂 问题 ， 特别是优化问题 ， GA提供了一个行之 有效的新途径。 GA把每一个可能的解编码为一个向量 ， 称为一个染 色体 ， 向量的每一个元素称为基因 。 所有染色体组成 群体 。 并按预定的目标函数对每个染色提进行