基于奇异值分解和判别局部保持投影多变量时间序列分类.docVIP

基于奇异值分解和判别局部保持投影多变量时间序列分类 　　摘要：针对现有多变量时间序列分类算法存在的要求序列等长和忽视类别信息两个不足，提出基于奇异值分解（SVD）和判别局部保持投影的分类算法。该算法基于降维思想，先通过SVD将样本的第一右奇异向量作为特征向量，以此将不等长序列转化为规模大小相同的序列；接着采用基于最大间距准则的判别局部保持投影对特征向量投影，充分利用类别信息以确保投影后同类样本尽量接近，异类样本尽量分散；最后在低维子空间采用1最近邻（1NN）、Parzen窗、支持向量机（SVM）和朴素Bayes分类器进行分类。在AustralianSignLanguage（ASL）、JapaneseVowels（JV）和Wafer三个公开的多变量时间序列数据集上进行的实验结果表明：在时间开销基本不变的前提下，所提方法取得了较低的分类错误率。 　　关键词： 多变量时间序列； 分类； 奇异值分解； 判别局部保持投影； 最大间距准则 　　中图分类号： TP311 文献标志码： A 　　0引言 　　时间序列分类是时间序列数据挖掘的核心问题之一。多变量时间序列（MultivariateTimeSeries，MTS）数据广泛存在于各种应用领域，比如视频监控、金融、医疗、气象、动作捕捉、语音识别等，故针对MTS的分类研究有广阔的实际应用背景。如：医生可根据病人的心电图走势判定其属于正常心率或失常心率，之后对病人作进一步的诊断。但到目前为止，关于时间序列的分类研究大都集中于单变量时间序列[1-5]，针对MTS的研究[6-11]相对较少。 　　MTS由于以下自身特点，使得对其分类难度增加：1）变量相关性，若简单地把MTS拼接成一个单变量时间序列，将导致变量相关性信息的丢失；2）多噪声，MTS一般都是通过传感器收集，故含有大量的噪声和错误；3）序列不等长，即使对于两个同一类别的MTS，其序列长度也不尽相同。 　　针对MTS分类问题：文献[6]提出分割组合算法，先把MTS分割成等长的子序列并将其转化为一个行向量，随机选取子序列构造决策树并对其他子序列分类，最后采用投票法获取MTS的类标签，该方法将多变量序列拼接成行向量，造成变量相关信息的丢失。文献[7]提出基于二维奇异值分解（2dimensionalSingularValueDecomposition??2dSVD）算法，对MTS的“行行”和“列列”协方差矩阵奇异值分解，得到特征向量矩阵，再用1最近邻实现分类，该方法要求序列长度相同。文献[8]提出基于局部保持投影（LocalityPreservingProjection，LPP）算法，通过LPP对特征向量降维，并用1最近邻对低维空间中特征向量分类，其不足是降维过程中没有考虑类别信息。文献[9]提出基于监督局部保持投影（SupervisionLocalityPreservingProjection，SLPP）的算法，其目标函数和LPP算法相同，不同的是它通过热核函数引入类标签，但此改进并没有考虑类内和类间离散度。 　　针对以上算法的不足，本文提出一种基于SVD和判别局部保持投影分类（ClassificationbasedonSVDandDiscriminantLPP，S_DLPP）算法。该算法先通过SVD提取样本的特征向量，利用基于最大间距准则的判别局部监督投影把特征向量投影到低维空间，之后在低维空间采用1最近邻（1NearestNeighbor，1NN）、Parzen窗、支持向量机（SupportVectorMachine，SVM）、朴素Bayes分类器实现分类。 　　4结语 　　针对已有的2dSVD特征提取分类算法要求时间序列等长和LPP特征提取分类算法忽略已知判别信息的缺点，本文提出基于SVD和判别局部保持投影的特征提取分类算法——S_DLPP。S_DLPP先通过SVD把第一右奇异向量作为特征向量，使不等长序列转化为等长序列，之后通过基于最大间距准则的判别局部保持投影引入类别信息，不仅保持了样本的局部流行结构，且提取的特征更加符合分类需求。在多个不等长MTS上进行分类实验，结果表明：在时间开销相差不大的前提下，本文提出的S_DLPP的分类错误率明显低于2dSVD、LPP和SLPP的分类方法，且适用于不同规模的MTS数据集。 　　参考文献： 　　[1]JEONGY，JEONGM，OMITAOMUO.Weighteddynamictimewarpingfortimeseriesclassification[J].PatternRecognition，2011，44（9）：2231-2240. 　　[2]LINESJ，DAVISL，HILLSJ，etal.Ashapelettransformfortimeseriescl