稀疏逆协方差矩阵估计优化模型及求解.docx

稀疏逆协方差矩阵估计优化模型及求解

摘要：估计稀疏逆协方差矩阵是统计领域的经典问题，能应用于经济，金融，社交网络，基因排序等高维数据分析的领域中。本文先介绍了稀疏逆协方差矩阵估计问题及其发展历程，然后总结了它的优化模型及其求解方法，并对部分求解方法进行比较，接着简要介绍了稀疏逆协方差矩阵估计的应用，最后对实例进行求解。

关键词：稀疏逆协方差矩阵；优化模型；优化算法；发展历程；应用

OptimizationmodelandsolutionofsparseinverseCovariancematrixestimation

Abstract:EstimatingsparseinverseCovariancematrixisaclassicalprobleminthefieldofstatistics,whichcanbeappliedtohigh-dimensionaldataanalysisfieldssuchaseconomics,finance,socialnetworks,genesequencing,etc.ThispaperfirstintroducesthesparseinverseCovariancematrixestimationproblemanditsdevelopmenthistory,thensummarizesitsoptimizationmodelandsolutionmethods,andcomparessomeofthesolutionmethods,thenbrieflyintroducestheapplicationofsparseinverseCovariancematrixestimation.Finally,anexampleissolved.

Keywords:SparseinverseCovariancematrixestimation;Optimizethemodel;Optimizationalgorithm;Developmenthistory;application

PAGE18

稀疏逆协方差矩阵估计优化模型及求解

1绪论

1.1引言

最优化是一门应用性很强的学科，它研究的是如何从某些实际问题的众多可行方案中找出最优的方案．最优化理论的起源可追溯到18世纪，并且在21世纪得到进一步拓展和应用。特别地，随着大数据时代的到来，最优化理论与算法在求解大规模实际问题中发挥着至关重要的作用。统计分析与优化算法的结合是目前最新的研究趋势，并且数值优化算法被广泛应用于求解统计领域中的优化模型。稀疏逆协方差矩阵估计是统计领域经典问题，也是一个现代多元分析的重要组成部分，经常出现在经济学、金融学、生物学等多个领域，能应用在社交网络、语音识别、健康科学、机器学习、数据挖掘、群落优化和基因网络分析等众多方面。随着大数据时代的到来，问题的规模变得异常庞大，结构变得异常复杂。因此，在大数据背景下，研究稀疏逆协方差矩阵估计问题具有十分重要的意义。

1.2预备知识

1.2.1高斯分布

高斯分布一般指正态分布。由棣莫弗（AbrahamdeMoivre）在求二项分布的渐近公式中得到。若随机变量X服从一个数学期望为μ、方差为σ2的正态分布，记为N(μ,)。其概率密度函数为正态分布的期望值μ决定了其位置，其标准差σ

1.2.2协方差

协方差（Covariance）在概率论和统计学中用于衡量两个变量的总体误差。

cov

1.2.3协方差矩阵

协方差矩阵的每个元素是各个向量元素之间的协方差，是从标量随机变量到高维度随机向量的自然推广。例如，二维的协方差矩阵由下式给出

C=

1.2.4协方差矩阵的逆矩阵

协方差矩阵的逆矩阵，通常称为精度矩阵（precisionmatrix），它与偏相关矩阵（partialcorrelationmatrix）成正比。即它能给出数据之间的部分关系。也就是说，如果在一定条件下，两个特征彼此独立，则它们的逆协方差矩阵的对应系数将为零。

1.2.5最大似然估计

最大似然估计(maximumlikelihoodestimation,MLE)一种重要而普遍的求估计量的方法。最大似然估计法是在总体分类已知的前提下使用的一种参数估计。求未知参数的最大似然估计问题，归结为求似然函数的最大值点的问题。当似然函数关于未知参数可微时，可利用微分学中求最大值的方法来求解。先写出似然函数，然后对似然函数或对数似然函数求导，并令导数为0，求出参数的最大似然估计。

1.2.6稀疏矩阵

在矩阵中，