求解逻辑回归问题的多层邻近拟牛顿算法.docx

逻辑回归是一种广义的线性回归分析模型，主要用于求解二分类问题，而l1正则化逻辑回归是具有稀疏约束的经典逻辑回归模型。l1正则化逻辑回归模型通常表示为光滑凸函数与非光滑凸函数的和。逻辑回归问题的数学模型可表示为 minx∈Rn?(F(x):=f(x)+λ‖x‖1), (1) 其中： f(x)=1N∑i=1Nlog(1+exp?(?biaiTx)) 为平均逻辑损失函数；λ‖x‖1为l1正则化函数，λ0。该问题的输入数据是一个训练数据点集(ai,?bi)∈?Rn×{－1, 1},?i=1, 2, …,?N,?ai为特征向量，bi为对应的标签，N0。由于问题(1)中的l1正则项可以产生稀疏解，从而在高