检测多元相关关系的最大信息熵方法.pdfVIP

第37卷第 1期 电 子 与 信 息 学 报 Vb1．37NO．1 2015年 1月 JournalofElectronicsInformationTechnology Jan．2015 检测多元相关关系的最大信息熵方法 张亚红 李玉镒 张 婷 (北京工业大学计算机学院 北京 1001241 摘 要：目前提出的用于检测变量间相关关系的方法，如最大信息系数(MaximalInformationCoefficient，MIC)， 多应用于成对变量，却很少用于三元变量或更高元变量间的相关性检测。基于此，该文提出能够检测多元变量问相 关关系的新方法一 最大信息熵(MxaimalInformationEntropy，MIE)。对于k元变量，首先基于任意两变量间的 MIC值构造最大信息矩阵，然后根据最大信息矩阵计算最大信息熵来度量变量间的相关度。仿真实验结果表明MIE 能够检测三元变量间的1维流形依赖关系，真实数据集上的实验验证了MIE的实用性。 关键词：数据挖掘；多元相关；最大信息系数：最大信息熵 中图分类号：TP391 文献标识码：A 文章编号：1009—5896(2015)01—0123—07 DOI：10．11999／JEIT140053 DetectingMultivariableCorrelationwithMaximalInformationEntropy ZhangYa-hong LiYu—jian ZhangTing (CollegeofComputerScienceBeijingUniversity Technology，Beijing100124，China) Abstract：Manymeasures，e．g．，MaximalInformationCoefficient(MIC)，arepresentedtoidentifyinteresting correlationsforpairsofvariables，butfew ofrtripletsorevenofrhigherdimensionvariableset．Basedonthat，the MaximalInformationEntropy(MIE)isproposedofrmeasuringthegeneralcorrelationofamultivariabledataset． Forkvariables，firstly，themaximalinformationmatrixisconstructedaccordingtotheMIC scoresofanypairsof variables；then，maximalinformationentropy，whichmeasuresthecorrelationdegreeoftheconcernedkvariables， iscalculatedbasedonthemxa imalinformation matrix．Thesimulationexperimentalresultsshow thatMIE can detectone—dimensionalmanifold dependenceoftriplets．Theapplicationstorealdatasetsfurther verify the feasibilityofMIE． Keywords：Datamining；Multivariablecorrelation；MaximalInformationCoefficient(MIC)；MxaimalInformation Entropy(MIE) 1 引言 数据分析中，变量间的相关可以是任意的线性或非 线性函数关系，以及更为复杂的统计依赖关系。由 相关性挖掘是数据挖掘的一个重要组成部分， 其 目标是发现数据集中变量间