一种基于ICA空间高斯混合模型新颖检测.docVIP

一种基于ICA空间高斯混合模型的新颖检测 　　（天津大学 机械工程学院， 天津 300072） 　　?? 　　摘 要：新颖检测中，可应用高斯混合模型建立已知数据模型，拟合数据分布，但当数据维数较高时，自由参数太多，训练需要巨大的数据采样，而ICA搜寻数据的最大统计独立表示，可以将数据从高维空间投影到低维空间。提出一种基于ICA空间高斯混合模型的新颖检测，可有效减少估测的自由参数，降低训练数据采样的苛刻要求，实验也验证了该方法的可行性。 　　?す丶?词：新颖检测; 独立成分分析；高斯混合模型 　　?ぶ型挤掷嗪牛?TN919 文献标志码：A 　　 文章编号：1001?B3695(2009)03?B1142?B04 　　?? 　　Novelty detection based on Gaussian mixture models in ICA space 　　?? 　　PEI Zhijun, TAO Jianhua 　　?? 　　(School of Mechanical Engineering, Tianjin University，Tianjin 300072, China) 　　?? 　　Abstract: A novelty detector learns the model of normality in the training stage using only normal samples and abnormalities are then identified by testing for novelty against that model. Gaussian mixture models can be used to model data general distributions for novelty detection. But given high data dimensionality, a very large number of training samples are needed for modeling, there are also too many free parameters. ICA is a subspace projection technique that can project data from a highdimensional space to a lowerdimensional space by computing independent components of the data. So this paper proposed a novelty detection based on Gaussian mixture models in ICA space, which could improve the dimension curse problem and decrease the free parameters. The method is verified by the experiments. 　　??Key words：novelty detection; independent component analysis(ICA); Gaussian mixture models(GMM) 　　?お? 　　一般地，将机器学习系统训练时没有学习的未知新数据的识别称为新颖检测[1]。 测试数据有时包含训练模型时未知的目标信息, 这使得新颖检测对良好识别系统非常重要。在监督学习系统中，常假设测试数据属于已知类之一，根据训练获得的已知类模型，未知测试数据被分配到相应的类。然而, 机器学习系统训练时，往往很难获得可能遇到的所有目标类数据, 测试采样有可能不属于已知类，这种情况下，新颖检测可将测试采样分配到已知类或未知类，分配到未知类的采样即新颖。 新颖检测可应用于信号处理、计算机视觉、模式识别、数据挖掘、机器人等领域[2~5]。新颖检测中，建立已知数据的合适模型十分重要，已提出许多方法如统计模型、神经网络、支持向量等。其中高斯混合模型 (GMM) 的统计方法基于概率模型无监督学习聚类，可以拟合数据的一般分布，已应用于测试数据的新颖检测[1]。但当数据维数较高时，GMM训练需要巨大数据采样，计算复杂，且当训练数据有限时，自由参数太多。为了克服传统高斯混合模型的缺陷，本文提出一种基于ICA空间高斯混合模型的新颖检测。ICA搜寻数据的最大统计独立表示， 可以将数据从高维空间投影到低维空间[6]，因而在ICA空间，高斯混合模型的自由参数有效减少，也降低了训练数据巨大、采样的苛刻要求，从而可进行快速有效的新颖检测。 　　1 ICA