大数据、高维回归与SttStata.PDF

第二届Stata中国用户大会 大数据大数据、高维回归与高维回归与StStatta 陈强陈强 山东大学经济学院 qiang2chen2@126.com 公众号/ 网站：econometrics-stata 腾讯课堂： 2018/8/182018/8/182018/8/18 陈强，(c) 2018 111 第二届Stata中国用户大会 本讲内容本讲内容 • 高维数据高维数据 • 岭回归岭回归(Rid(Ridge RRegressiion)) •• 套索估计套索估计(Lasso)(Lasso) • 弹性网弹性网(Elastic(Elastic Net)Net) • Stata命令与案例 2018/8/18 陈强，(c) 2018 2 第二届Stata中国用户大会 高维数据高维数据 • 大数据的大数据的一种表种表现形式为式为 “高维数据高维数据”（high dimensional data ），即变量个数（p ）大于样本 容量容量 （n ），也称为也称为 “data-rich environment ”。 • 比如比如，某些研究收集了某些研究收集了100100位病人的信息位病人的信息，其中其中 每位病人均有2万条基因的数据。受成本限制，样 本容量本容量nn=100100很难再扩大很难再扩大，而变量个数而变量个数pp远远大于远远大于 样本容量。 • 如此之多的变量自然提供了更多的信息，但同时 也为回归估计带来了新的挑战也为回归估计带来了新的挑战。 2018/8/18 陈强，(c) 2018 3 第二届Stata中国用户大会 经济学有高维数据吗经济学有高维数据吗 • 经济学不仅有高维数据经济学不仅有高维数据，而且越来越多越来越多。 • 情形一、数据本身可能就是高维的。比如，人口 普查普查、、工业调查或家庭调查数据工业调查或家庭调查数据，，通常会包括每通常会包括每 位个体的数百个变量。 • 而交易层面的数据（包括网购与零售扫描数据） 、社交媒体的数据社交媒体的数据、以及文本挖掘的数据以及文本挖掘的数据，其变其变 量个数则一般成千上万，甚至更多。 2018/8/18 陈强，(c) 2018 4 第二届Stata中国用户大会 经济学有高维数据吗经济学有高维数据吗 （（续续）） • 情形二、尽管原始变量不多，但我们通常不知道 这些变量应该以怎样的函数形式(functional form) 进入进入回归方程归方程 • 为了解决潜在非线性，可能加入原始变量的平方 项项、、交互项交互项、、甚至更高次项甚至更高次项，，以及其他变换以及其他变换 （（比比 如取对数），使得最终变量个数大大增加 • 情形二在计量经济学的实证研究中一直存在 2018/8/18 陈强，(c) 2018 5