原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
随机数学模型
§3.1 多元回归与最优逐步回归
一、数学模型
设可控或不可控的自变量；目标函数，已测得的n组数据为：
(1.1)
其中是系统的测试数据，相当于如下模型：设多目标系统为：
为简化问题，不妨设该系统为单目标系统，且由函数关系，可以设：
(1.2)
可得如下线性模型
(1.3)
为测量误差，相互独立，。
令
可得
(1.4)
(1.4) 称为线性回归方程的数学模型。
利用最小二乘估计或极大似然估计，令
使，由方程组
(1.5)
可得系数的估计。
令 方阵可逆，由模型
可得：
即有 (1.6)
可以证明(1.6)与(1.5)是同解方程组的解，它是最优线性无偏估量，满足很多良好的性质，另文补讲。
二、模型的分析与检验
设目标函数的平均值，则由公式可计算得总偏差平方和，回归和剩余平方和：
(1.7)
假设检验：
至少有一个不为零
结论是：当
当被拒绝以后，说明方程(2)中系数不全为零，方程配得合理。否则在被接受以后，说明方程配得不合适，即变量对目标函数都没有影响，则要从另外因素去考虑该系统。
三、回归方程系数的显著性检验
假设 备选假设
可以证得：
(1.8)
或者
的对角线元素。
当 时，显著不为零，方程(1.2)中第j个变量作用显著。若有某一个系数假设被接受，则应从方程中剔除。然后从头开始进行一次回归分析工作。
四、回归方程进行预测预报和控制
经过回归分析得到经验回归方程为
(1.9)
设要在某已知点上进行预测，可得点估计：
(1.10)
下面对预测预极值进行区间估计，可以证得
其中
得的预测区间为：
(1.11)
五、最优逐步回归分析
在线性回归分析中，当经过检验，方程(1.2)作用显著，但为显著,说明不起作用，要从方程中剔除出去，一切都要从头算起，很麻烦。这里介绍的方法是光对因子逐个检验，确认它在方程中的作用的显著程度，然后依大到小逐次引入变量到方程，并及时进行检验，去掉作用不显著的因子，依次循环，到最后无因子可以进入方程，亦无因子被从方程中剔除，这个方法称为最优逐步回归法。
从方程(1.2)中,为方便计,设变量个数,记可得
(1.12)
此时仍可得
是回归估计值
回归方程为
(1.13)
分别是的系数估计。为了减少误差积累与放大，进行数据中心化标准化处理：
(1.14)
可得数学模型为：
(1.15)
经推导可得：
，，
，
称为系数相关矩阵
由此可得经验回归方程：
(1.16)
然后以变换关系式代入可得
(1.17)
将(17)式与(13)式进行比较，可得：
(1.18)
只要算得(16)式的即可。注意到
，， ，
其中是对于因子的偏回归平方和，可以证明线性方程中对变量的多元线性回归方程中的偏回归平方和为（是原方程中的偏回归平方和）：
把系数矩阵R变成加边矩阵，记为
比较,设,则相应变量作用最大，但是否显著大，要进行显著性检验，可以证得
当时，可将变量引入方程中去。
现将这个循环步骤介绍如下：
第一步：挑选第一个因子
对 计算的偏回归和
找出 决定
3. F检验
当时引入，一般总可以引入的。
第二步：挑选第二个因子
首先变换加边矩阵
则 ，
因子的偏回归平方和
记
决定可否引入
步骤： 1. 对，计算的偏回归平方和。
2. 找出中最大的一个，记为。
3. 对作显著性检验：
当时，要引入。
第三步：当引入时，是否要剔除呢？
即已有方程：
检验的偏回归平方和：
当 时因子不剔除。同样的方法以
文档评论（0）