将Lasso应用于回归.docxVIP

将Lasso应用于回归 将Lasso应用于回归 PAGE / NUMPAGES 将Lasso应用于回归 将 Lasso 应用于回归， 可以在参数估计的同时实现变量的选择， 较好的解决回归解析中的多 重共线性问题，而且可以很好的讲解结果。本项目侧重对本质案例中的共线性问题利用 Lasso 的方法剔除变量，改进模型，并将其结果与过去变量选择的方法比较，提出 Lasso 方 法的优势。 将 Lasso 应用于时间序列。将 Lasso 思想应用于 AR(p) 、 ARMA(p)等模型，利用 Lasso 方法 对 AR(p) 、ARMA(p)等模型中的变量选择， 并给出详尽的算法， 随后进行模拟计算， 说明 AR(p) 、 ARMA(p)等模型的 Lasso 方法定阶的可行性。 试一试将 Lasso 方法应用到高维图形的鉴识与选择以及应用于线性模型的变量选择中， 以提高 模型选择的正确性。 研究意义： 随着科技的进步， 收集数据的技术也有了很大的发展。 因此如何有效地从数据中挖掘出适用 的信息也越来越碰到人们的关注。统计建模无疑是目前办理这一问题的最有效的手段之一。 在模型建立之初， 为了尽量减小因缺少重要自变量而出现的模型偏差， 人们平时会选择尽可 能多的自变量。 但本质建模过程中平时需要搜寻对响应变量最拥有讲解性的自变量子集—即 模型选择  ( 或称变量选择、 特色选择  ) ，以提高模型的讲解性和展望精度。  因此模型选择在统 计建模过程中是极其重要的问题。 Lasso(Least absolute shrinkage and selection operator, Tibshirani(1996))  方法是一 种压缩估计。 它经过构造一个罚函数获得一个较为精髓的模型，  使得它压缩一些系数，  同时 设定一些系数为零。 因此保留了子集缩短的优点， 是一种办理拥有复共线性数据的有偏估计。 Lasso  的基本思想是在回归系数的绝对值之和小于一个常数的拘束条件下，  使残差平方 和最小化，进而可以产生某些严格等于  0 的回归系数，获得可以讲解的模型。  R 的  Lars  算 法的软件包供应了  Lasso  编程，我们依照模型改进的需要，可以给出  Lasso  算法，并利用 AIC 准则和 BIC 准则给统计模型的变量做一个截断，进而达到降维的目的。因此，我们经过 研究 Lasso 可以将其更好的应用到变量选择中去。 研究意义： 一般地说，多元数据解析办理的对象是刻画所研究问题的多个统计指标在多次观察中表现的 数据， 样本数据拥有失散且有限的特色。 但是，现代的数据收集技术所收集的信息，不仅包 括传统统计方法所办理的数据， 还包括拥有函数形式的过程所产生的数据。 在办理数据的时 候我们就会碰到模型建立的问题， 这时候我们就把一些多元数据解析模型应用到函数型数据 中( 比方线性模型 ) ，那么在线性模型中变量的选择问题就很重要了。 在解析这种模型的时候， 人们依照问题自己的的专业理论及有关经验， 常常把各种与因变量 有关的自变量引进模型， 其结果是把一些对因变量影响很小的， 有些甚至没有影响的自变量 也选入模型中。这样一来，不仅计算量大，而且估计和展望的精度也会下降。其他，在一些 情况下， 某些自变量的观察数据获得代价昂贵， 若是这些自变量自己对因变量的影响很小或 根本没有影响， 但我们不加选择都引到模型中， 必定造成观察数据收集和模型应用花销不用 要的加大。 因此， 本项目基于数据的宽泛特色， 在对数据解析时， 必定对进入模型的自变量作精心的选 择。而 Lasso 以减小变量集（降阶）为思想，是一种缩短估计方法。 Lasso 方法可以将变量 的系数进行压缩并使某些回归系数变为 0，进而达到变量选择的目的，可以宽泛的应用于模 型改进与选择。我们经过选择处分函数，借用 Lasso 思想和方法实现变量选择的目的。 国内外研究现状解析： Tibshirani,R.(1996) 在 Frank(1993) 提出的“ Bridge Regression ”和 Bireman(1995) 提出 的“ Nonnegative Garrote ”的启示下提出了一种称之为Lasso (Least absolute shrinkage and seleetion operator) 的新的变量选择方法并将其成功应用于 COX模型的变量选择。该 方法战胜了传统方法在选择模型上的不足， 因此该方法在统计领域碰到了极大的重视。 但是 该方法缺少有效的算法支撑。因此很多学者在这方面张开了研究。 Fu(1998) 提出了“ Shooting ”算法，接着 Osbome,. 等发现 Lasso 回归的解的路径是