原创力文档- 1、本文档共14页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
2010 稳健L_q_0_q_1_正则化理论_解的渐近分布与变量选择一致性_常象宇
:
2010
40
10 : 985 ～ 998
Lq (0 q 1)
:
x, x?, y, z, {
x , 710049; y , 710069; z , 400715; { , 999078 E-mail: xiangyuchang@, zbxu@, zhanghai@, wjj@, yliang@.mo
: 2010-01-31; (
: 2010-08-12; * : 2007CB311002)
( :
Lq (0 q ∞) 0q1
,
MSC (2000)
Oracle 62F12, 62F35, 62J07
,
, LAD
, , .
. . .
1
,
.
.,
.
y∈R
x ∈ Rp
y = xTβ + ε,
(1.1)
β = (β1, β2, . . . , βp)T ∈ Rp, ε ～ N (0, σ2)
.
{(xi, yi)|yi ∈ R, xi ∈ Rp, i = 1, 2, . . . , n},
n
min
β∈Rp
(yi ? xTi β)2
i=1
β,
. (1.1)
Y = (y1, y2, . . . , yn)T ∈ Rn
, X = (x1, x2, . . . , xn)T ∈ Rn×p
β?ols = (XTX)?1XTY.
n ,
: Chang X Y, Xu Z B, Zhang H, et al. Robust regularization theory based on Lq (0 q 1) regularization: the asymptotic distribution and variable selection consistence of solutions (in Chinese). Sci Sin Math, 2010, 40(10): 985–998, doi: 10.1360/012010-77
: Lq (0 q 1)
:
, ,,
, ,
( ,
. .
, LAD (least absolute deviation) :
). : , ;, .
,
n
β?LAD = arg min |yi ? xTi β|.
i=1
LAD (
, ), [11–13]
:
[1], Chanes [2]
.,
[4–10]
LAD
.
,
.
n
min (yi ? xiTβ)2 + λnPen(β) ,
i=1
λn 0
, Pen
Pen(β) =
β
2 2
,
[15];
Pen(β) =
p j
|βj
|q
,
1
q∞
Pen(β) =
p j
|βj|q, 0
q
∞
,
.
RLAD ,
[20, 21]
:
[14]; ,
,β
Pen(β) = β 1 =
p i=1
|βi
|,
Bridge
[16]. Knight
., Lasso
Fu[17]
; Huang[18]
Bridge
, [19]
LAD-Lasso LAD-Adaptive Lasso .
np
min |yi ? xTi β| + λn,j |βj| .
i=1 j=1
, Lq (0 q 1)
L1
L1 Lq (0 q 1)
.
; ;,
[24] L1
, L1 .
[22]
, [22–24]
Donoho[25]
.,
[22?24], L1 Lq (0 q 1)
Lq
β?n,q = arg min
np
|yi ? xTi β| + λn,j |βj |q ,
i=1 j=1
LAD-Lq
,
0 q ∞.
Lasso[20] LAD-Adaptive Lasso[21]
.
,
LAD-Lq 2
0q1 LAD-Lq
,
q=1 L1
RLAD
q=1 .
, LAD-Lq LAD-Lq
.3
986
(1.2)
RLAD[19], LAD,
LAD-Lq ,
: 40 10
Lq (0 q 1) .
LAD-Lq (0 q 1) ,4
.,
5,
( ).
Oracle , ,
LAD-Lq (0 q 1)
2 LAD-Lq
Y = (y1, y2, . . . , yn)T, ),
X = (x1, x2, . . . , xn)T ∈ Rn×p.
n
yi = 0,
i=1
n
xij = 0,
i=1
n
x2ij = 1,
i=1
? j = 1, 2, . . . , p.
,:
(i) E(εi) = 0
yi yi = xTi β + εi, Var(εi) = σ2.
(ii)
εi, i = 1, 2, . . . , n,
(
1 n
X
TX
→
C
(n
→
∞),
C. (iii)
u ∈ Rp,
t√ √
φn
文档评论（0）