杨晓慧-2010-建模竞赛暑期培训-人工智能优化算法技术介绍.ppt

主讲教师：杨晓慧 E-mail: xhyang@henu.edu.cn;数学建模十大算法;*;认识“人工智能”;认识“人工智能”（续）;认识“人工智能”（续）;意识和人工智能的区别;经典的人工智能成果;经典的人工智能成果(续);*;*;人工神经网络(Artificical Neural Networks , ANNs);人工神经网络基本组成;;人工神经网络基本流程;右图表示了几种常见的激励函数。 1. 阈值型函数（见图（a），（b）） 2. 饱和型函数（见图（c）） 3. 双曲函数（见图（d）） 4. S型函数（见（e）） 5. 高斯函数（见图（f））;人工神经网络的基本特征;人工神经网络的基本特征（续）;人工神经网络基本特征（续）;4. 非凸性 * 一个系统的演化方向，在一定条件下将取决于某个特定的状态函数，例如能量函数，它的极值相应于系统比较稳定的状态。 * 非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样性。 ;人工神经网络;1943年，心理学家W.S.McCulloch和数理逻辑学家W.Pitts建立了神经网络和数学模型，称为MP模型，开创了人工神经网络研究的时代。 人工神经网络的研究受到了各个发达国家的重视 * 美国国会通过决议将1990年1月5日开始的十年定为“脑的十年” * 国际研究组织号召它的成员国将“脑的十年”变为全球行为 * 在日本的“真实世界计算（RWC）”项目中，人工智能的研究成了一个重要的组成部分。 * ……;人工神经网络的优越性;神经网络的主要应用领域; BP (Back propagation)神经网络是一种误差反向传播网络, 是目前气象预报研究中应用较为普遍的一种，由于气象要素之间也存在着很大的非线性，天气预报业务中已有人开始进行人工神经网络预报方法的研究。 随着我国T213数值预报产品质量的提高，数值预报产品的释用成了提高天气预报精度的主要途径之一。数值预报产品与预报对象的同时性，使因果关系更明确。 下面利用我国T213数值预报产品做输入因子，尝试应用（BP）人工神经网络的方法，做保定市短期24小时的降水分级预报。 ;BP网络流程图 ;因子的具体选取与处理;保定市的降水模型 ;因子的具体选取 ;BP神经网络的建立;训练结果;分析与讨论;*;模拟退火(Simulated Annealing, SA);模拟退火(续);模拟退火算法的基本思想;模拟退火算法特点;*;遗传算法是一类模拟达尔文生物进化论的自然选择和遗传算法机理的生物进化过程的计算模型，借鉴生物界的进化规律（适者生存，优胜劣汰遗传机制）演化而来的随机化搜索最优化方法。 遗传算法最初由美国Michigan大学J. Holland教授于1975年首先提出来的，并出版了颇有影响的专著《Adaptation in Natural and Artificial Systems》, 遗传算法这个名称才逐渐为人所知，通常称为“简单遗传算法”。;直接对结构对象进行操作，不存在求导和函数连续性的限定； 具有内在的隐并行性和更好的全局寻优能力； 采用概率化的寻优方法，能自动获取和指导优化的搜索空间，自适应地调整搜索方向，不需要确定的规则。 遗传算法的这些性质，已被人们广泛地应用于组合优化、机器学习、信号处理、自适应控制和人工生命等领域。它是现代有关智能计算中的关键技术。 ;遗传算法的定义;遗传算法的定义（续）;遗传算法流程图;遗传算法的一般算法;遗传算法的一般算法(续);遗传算法的一般算法(续);*;进化算法(Evolutionary Algorithms, EA);现在我们讨论另一种生物系统——社会系统. 更确切的是, 在由简单个体组成的群落与环境以及个体之间的互动行为. 也可称做“群智能”(swarm intelligence). 这些模拟系统利用局部信息从而可能产生不可预测的群体行为。例如floys 和 boids, 他们都用来模拟鱼群和鸟群的运动规律, 主要用于计算机视觉和计算机辅助设计. 在计算智能(computational intelligence)领域有两种基于群智能的算法. 蚁群算法(ant colony optimization)和粒子群算法(particle swarm optimization). ;鸟群运动;鱼群运动;;*;问题的引入;粒子群算法(Particle Swam Optimize, PSO);粒子群算法(Particle Swam Optimize, PSO);基本PSO算法 ;PSO 初始化为一群随机粒子(随机解) 然后通过叠