化工计算机数据与图形处理ppt-8.pptVIP

主要内容 7.1 最小二乘法：第一代 7.2 遗传算法：第二代 7.3 人工神经网络：第三代 7.4 支持向量机：第四代 7.5 人工智能思想在试验数据处 理中的应用 7.1 最小二乘法 问题来源： 在科学研究和实际工作中，常常会遇到这 样的问题：给定两个变量（x, y）的m组实 验数据，如何从中找出这两个变量间的函 数关系的解析表达式（也称为经验公式） 7.1 最小二乘法 问题的两个方面： 一类是对x与y之间所存在的对应规律一无所知， 这时要从实验数据中找出切合实际的近似解析表 达式是相当困难的，这类问题俗称为黑箱问题； 另一类是依据对问题的分析，通过数学建模，能 够判定出x与y之间满足或大体上满足某种类型的 函数关系式 ，其中 是n个待定的参数，这些参数的值可以通过m组实 验数据来确定（一般要求mn），这类问题称为 灰箱问题。 7.1 最小二乘法 引出概念： 解决灰箱问题的原则通常是使拟合函数在xi处的值 与实验数值的偏差平方和最小，即 取得最小值。这种在方差意义下对实验数据实现最 佳拟合的方法称为“最小二乘法” 。 a1, a2, …, an称为最小二乘解，y=f(x,a)称为拟合函 数。 最小二乘法是试验数据参数估计的最重要的 工具。 7.1 最小二乘法 历史与特点： 最小二乘法是科学实验和统计工作中常用的一种数 据处理方法。由A.M.勒让德和C.F.高斯于19世纪初 分别独立提出。 逼近原函数的手段： ①不要求过所有的点（可以消除误差影响）； ②尽可能表现数据的趋势，靠近这些点。 7.1 最小二乘法 线性拟合问题： 示例 在某化工厂生产过程中，为研究温度x对产量 y 的影响，可测得一组数据如下表所示，试根据这 些数据建立以x与y之间的拟合函数。 7.1 最小二乘法 （1）确定函数类型：对给定的数据以x为横坐标， y为纵坐标作出散点图。 7.1 最小二乘法 从图中可以看出这些点近似地落在一条直线周围， 可以认为在y和x之间存在着线性关系，之所以不完 全落在直线上，是因为试验数据本身存在的误差。 下面我们就用最小二乘法求出与这些数据点最接近 的直线方程：设直线方程式为y=ax+b，其中a, b是 待定系数。于是，可以把拟合函数在xi处的值与试 验值的偏差平方和表示为关于待定系数a, b的二元 函数： 7.1 最小二乘法 对线性拟合，最小二乘法等价于极大似然法 概率意义： 用极大似然法估计参数a1, a2, …, an时的似然函数为： 7.2 遗传算法 概述 达尔文的自然选择学说是一种被人们广泛接受的生 物进化学说。他认为，生物要生存下去，就必须进 行生存斗争。在生存斗争中，具有有利变异的个体 容易存活下来，并且有更多的机会将有利变异传给 后代；具有不利变异的个体就容易被淘汰，产生后 代的机会也少的多。因此，凡是在生存斗争中获胜 的个体都是对环境适应性比较强的。达尔文把这种 在生存斗争中适者生存，不适者淘汰的过程叫做自 然选择。它表明，遗传和变异是决定生物进化的内 在因素。 7.2 遗传算法 概述 遗传算法（Genetic Algorithm，GA）是借鉴生物进 化规律（适者生存，优胜劣汰遗传机制）演化而来 的随机化搜索方法。它由美国的J. Holland教授 1975年首先提出，其主要特点是直接对结构对象进 行操作，不存在求导和函数连续性的限定；具有更 好的全局寻优能力；采用概率化的寻优方法，能自 动获取和指导优化的搜索空间，自适应地调整搜索 方向,不需要确定的规则。 7.2 遗传算法 发展与应用 近年来，随着对于遗传算法研究的不断深入完善， 遗传算法应用到越来越广泛的领域，例如机器学习 、模式识别、图像处理、神经网络、工业优化控制 和社会科学等方面。特别是在煤气管道的最优控制 、通信网络链接长度的优化问题、铁路运输计划优 化、喷气式收音机涡轮机的设计、版面设计、键盘 排列优化等问题上遗传算法都取得了很大的成功。 7.2 遗传算法 典型示例：旅行商问题（Travelling Salesman Problem，TSP） 设有n个城市，城市i和城市j之间的距离为d(i，j) （i, j=1, ... , n）。 TSP问题是要找到访问每个城市恰好一次的一条路 线，使其路径总长度最短。 7.2 遗传算法 基本步骤 编码：GA在进行搜索之前先将解空间的解数据表 示成串结构数据，这些串结构数据的不同组合便构成 了不同的点。 对TSP可以按一条回路城市的次序进行编码，比 如码串136457829表示从城市1 开始，依次是城市 3,6,4,5,7,8,2,9，最后回到城市1