第五章回归方程的优化概要.doc

第五章 回归方程的优化 第一节 一般优化方法 一、系统最优化与数学模型 所谓系统就是相互作用着的若干元素的复合体。 如，太阳系：太阳+九大行星 原子：原子核+电子 政治系统 农业系统 农业生态 经济系统 工业系统 农业技术 人类社会 文化系统 经济系统 商业系统 农业系统 农业经济 军事系统 交通运输系统 ┆ ┆ ┆ 认识世界 认识系统 须依靠模型； 改造世界 建立人造系统，也须依靠模型。即，认识世界与改造世界都须依靠模型。 从根本上说：科学和技术的方法首先是建立模型的方法，建立模型是任何科学技术活动的基石。 (一) 数学模型 1. 定义：数学模型是指对系统行为的一种数量描述。当把系统要素的相互关系用字母、数字和符号，以数学方程抽象地表示出来时，这就是数学模型。一般以一组代数方程、微分方程、差分方程或概率统计方程…来表述。 2. 功用：利用数学模型可以预告预测系统在有关使用范围内和实际环境下的功能和行为，是研究系统最优化的有效方法。 3. 建模：数学模型的建立可以归结为：给定目标函数和约束条件(建模两要素) 目标函数：y=f (x 1, x 2, …, xm) 约束条件： g1(x1, x2, …, xm)≥0 g2(x1, x2, …, xm)≥0 ┆ gn(x1, x2, …, xm)≥0 目标函数与约束条件一起构成系统的数学模型。 (二) 系统最优化——录求系统目标函数在给定约束条件下的最优值。 例如二次回归统计模型的优化问题： 或 这里x0=1, b0i=bi, i=0, 1, 2, …, m。 ——常数约束二次函数寻优(一种特殊的非线性规划) 二、目标函数的最优化 (一) 可行域 设目标函数为 f(X) 其中 X=(x1, x2, …, xm)ˊ， xi (i=1, 2, …, m)为实数 当X的分量被定为一组特定的数时，所得的向量有时称为一项策略或设计。 变量X满足对其取值范围的限制(即约束条件)的点的全体构成问题的可行域F；如果可行域包括其边界上所有的点，则称为闭域；如果F的边界有一部分点不属于F，则称为开域。 [例5-1 ] 目标函数：f (X)=1000x1+4×10-9x1x2+2.5×105x2 约束条件：1≤x1≤2200, 0≤x2≤8 其可行域F为一闭域。 若约束条件为： 0x1≤2200, 0≤x2≤8 则可行域F为一开域。 (二) 最优值与最优点 1. 设X*∈F，若对于F中的一切X≠X*有 f(X*)f (X) 则称f(X*)(或记为f*)是f的最小值，X*叫做最小点；若对于F中的一切X≠X*有 f(X*)≤f (X) 此时存在不止一个最小点，但目标函数的最小值仍是唯一的。目标函数的最小值记为： 如果最小点X*在F的边界上，则称f*为边界最小值，否则称f*为内部最小值。 f(x) f(x) f(x) x x x 内部最小值 边界最小值 有两个最小点,但f1*=f2* 2. 同样可定义f的最大值和对应的最大点(只须改变定义中不等号的方向) 目标函数的最大值记为 3. 将最大、最小统一成为最优化概念，称f*为最优值，X*为最优点，记为 4. 最大最小之间的关系 设b0, a为任意实数，若X*是f(X)的最小点，则X*是a+bf(X)的最小点，是a-bf(X)的最大点，即