三种常用缺失值填充方法.docVIP

三种常用缺失值填充方法摘 要： 介绍在遇到蛋白质数据链在同源建模中缺失数据需要填充的时候所使用的常用方法，其中包括线性的KNN、SKNN方法和非线性的SVD方法，以及他们相比较起来的优缺点 关键词： 缺失值；KNN；SKNN；SVD 中图分类号：TP311.13 文献标识码：A 文章编号：1671－7597（2011）1210188－01 在生物学发展中对蛋白质的研究越来越多，各种针对蛋白质的同源建模的结构数据的实验研究也越来越多，可是在我们使用同源建模的方法的时候，由于蛋白质演化或变异的时候将会出现缺失值的情况。例如经过PCA处理降维处理过的蛋白质链可以分为严格保守部分和非保守部分，严格保守部分基本不缺值，大概占60%左右，而非保守部分则会含有缺失值，当我们填补缺失值后将能够把可以利用的蛋白质数据链的百分比提高到80%左右，所以缺失值的填充问题很重要。针对生物数据缺失值的填充问题的处理上要与一般的统计方法处理数据的形式不同，需要利用数据之间的关系来准确的，合理的填充缺失值 近年来，在处理这个问题上出现了一些填充缺失值比较准确地方法，如K个最近邻的缺失值填充法（KNN）、有序的K个最近邻填充法（SKNN）和奇异值分解法（SVD）。在这里，我分别的简单介绍下这三种方法 1 KNN算法 基于K个最近邻的缺失值填充算法其实是在考虑了生物蛋白质表达数据之间的相关性，因而预测结果较为准确。通过选定需要多少个最近邻的蛋白质数据链，根据这些个近邻蛋白质链提供的信息，对缺失数据的目标蛋白质链的缺失值进行预测和估计 首先我们要计算目标蛋白质链（也就是包含有缺失值的链）与其他链之间的欧式距离，然后在所有计算出来的距离中找到距离目标蛋白质链距离最小的K个最近邻的蛋白质链，然后对选择出的K个最近邻蛋白质链赋予相应的权值，其相应位置（即目标链的缺失值位置）的加权平均值即为目标蛋白质缺失值的估计值 这个方法的好处就是简单、快速，缺点就是在对缺失数据较多的链填充的时候，性能和准确度不高 2 SKNN算法 有序的最近邻的缺失值填充算法SKNN是在KNN算法的基础上提出而来的，总的来说，两者在选择最近邻的蛋白质链和计算邻近蛋白质链加权系数的方法都是相同的。不同之处主要是SKNN算法首先要根据数据集中的各条链的缺失率进行排序，从缺失率最小的蛋白质链开始填充。还有就是SKNN算法不仅利用数据集中原有的蛋白质链，它还会将经过填充的蛋白质链也加入到相似的蛋白质的选择范围内 SKNN算法是KNN算法的改进算法，在数据缺失率比较大的情况下具有较好的填充效果 上面的两种方法都是基于线性的方法，在实际应用的时候，都是比较简单，方便的，但是填充精度比其非线性的方法来说都低了很多 3 SVD算法（wibergs method） 这个方法主要是在使用pca的时候，数据是需要完整的，如果出现了缺失怎么办，那就使用wibergs method，也就是SVD算法 我们先假设有n个m维的数据，分别是x1,x2,,xn，令X= ，只是我们还无法直接拿X来用，因为里面很多的缺失值。给个具体的例子，我们可能要处理这样的数据 其中*就是缺失的数值。我们的就是要找到一个矩阵Y，使得它可以把数据填满，而且能够尽量的近似于原始的数据 因为数据是缺失的，我们没有办法得到数据的平均值，我们以 来表示，代表平均值的最大似然估计。于是我们的问题就是要求 ，使得 最小，其中 。我们先把平均值减去，为的是免去位移向量的动作，不过现在平均值不知道，所以当作未知数一起求解 根据SVD方法，任何一个 的 矩阵都可以分解成 我们另外令 所以我们就不用求整个的矩阵 所以现在我们要求的有三个向量，分别是 ， 和 ，而且我们只能根据已知的资料求解。我们把问题改成下面的样子： 与 相比，我们现在要把X中有值的输入进去，去累加他的误差，并使得误差最小。其实 就是 我们可以把有值的部分拉成一个向量，举个例子： 显然，如果Y中有P个位置是有值的，那么我们就会得到一个向量 其中 。当然，经过这样的调整， 也必须重新定义为 继续上个例子，如果该矩阵相对应的 是平均值，而且假设 ，则 。同时我们也需要对v和u做出一点修正 定义B和G 为了求 最小，我们将 分别对 和 做偏微分，得 其中的 和 分别是B和G的广义逆矩阵 所以当我们真的开始填充数值的时候，我们需要首先猜测一组 、和 并分成两边，一边是 和 ，另一边只放 。开始填充的时候要先固定其中的一边，假设是 ，那么我们可以算出G，进而可以求出 。反之，固定另外一边，就可以求出 。反复进行相同的步