第7章智能最优化算法选编.pptVIP

第7章 智能最优化算法; 随着仿生学、遗传学和人工智能科学的发展，从20世纪70年代以来，科学家相继将遗传学、神经网络科学的原理和方法应用到最优化领域，形成了一系列新的最优化方法，如遗传算法、神经网络算法、蚁群算法等。 ;7.1.1 生物的遗传与进化; 另外，在进行细胞复制时，也可能产生某些差错，从而使DNA发生某种变异，产生新的染色体。;7.1.2 基本遗传算法;（1）遗传编码; 二进制编码所用的符号集是由 0 和 1 组成的二值符号集， 它所构成的个体基因型是一个二进制符号串。;假设某一个体的编码是：; 在研究生物的遗传和进化现象时，生物学家使用适应度这个术语来度量物种对生存环境的适应程度。;对于极大化问题：; 生物的进化是以集团为主体进行的。与此对应，遗传算法的运算对象也是由M个个体所组成的集合，称群体。第t 代群体记作 P（t），遗传???法的运算就是群体的反复演变过程。;1）选择运算;2）交叉运算;; 模仿这一过程，遗传算法采用变异运算，将个体编码串中的某些基因座上的基因值用它的不同等位基因来替换，从而产生新的个体。;编码，构成初始群体P(t);例 用遗传算法求如下函数的全局最大值 ; 0.23; 需要说明的是，表中第②、⑦、⑨、⑩ 、12 栏的数据是应该随机产生的，这里特意选择了一些较好的数据以便尽快得到较好的结果。 实际运算中一般需求经过多次进化才能得到这样的最优结果。;7.2 神经网络算法; 一个神经细胞周围大约有100~1000个其他细胞，神经细胞的信息就是这样从一个细胞传递给另外一个细胞的，从一个神经网络传到另一个神经网络。;其符号的正负表示产生的作用是兴奋性的或抑止性的，其数值的大小表达作用的强弱；; 于是一个神经元在某时刻的状态或输出可用下面的数学表达式加以描述; 当;（a）线性函数; 目前提出的人工神经网络模型已有40 多种 按网络结构分为前馈型和反馈型； 按网络性能分为连续型、离散型、确定型和随机型； 按学习方式分为有导师型和无导师型； 按突触连接性质分为一阶线性型和高阶非线性型等。; BP网络由多个输入结点、多个隐含层和一个输出层组成。每层包含多个神经元（结点）。前后层之间实现全连接，层内各结点之间无连接。 ;图7-5所示为单隐层BP网络的结。;图7-5 单隐层BP网络;网络中隐含层和输出层神经元的输出为;（2）BP学习算法; ; 其中n代表修正或调整的次数。这就是BP网络学习训练的基本思想，由此得到的算法称BP算法。 ;其中; ;成立，则网络的学习完成。否则转⑤；; Hopfield人工神经网络是一种单层对称全反馈式网络， ; 每个神经元结点的输出为 0 或 1。类似于 MP 神经元， 可表示为; ;式中 sgn[ 。] 为符号函数，即; 可以证明，如果网络的权值矩阵是对称的且无自反馈， ;可保证网络在演变过程中，能量函数单调下降，最后达到极小值 ; 在用Hopfield 网络求解最优化问题时，关键在于针对不同的问题构造相应的能量函数和网络结构。;显然，若将二阶导数矩阵H当作权矩阵，将梯度当作阈值向量; 可见以能量函数（7－32）建立神经网络并运算求解，当能量函数达到极小时惩罚函数也达到极小，对应的解就是线性规划问题的最优解。;令 ;例7－4 求解无约束最优化问题;对网络进行更新，取 ; 可见，网络到此已达到稳定状态，故所求无约束问题的最优解是;② 取目标函数为计算能量函数，即;④ 对应的网络如图7-12，其中n=4，即有4个神经元。;⑤ 演变求解; 可见，能量函数的值都小于前一个状态 ，任取其中一个作为下一个状态向量，如取 ; 神经网络算法的稳定点一般只是最优化问题的局部最优点，上面问题的全局最优解是