k-d tree算法的研究.docVIP

k-d tree算法的研究 动机 先前写了一篇文章《SIFT算法研究》讲了讲SIFT特征具体是如何检测和描述的，其中也提到了SIFT常见的一个用途就是物体识别，物体识别的过程如下图所示： 如上图(a)，我们先对待识别的物体的图像进行SIFT特征点的检测和特征点的描述，然后得到了SIFT特征点集合。接下来生成物体目标描述要做的就是对特征点集合进行数据组织，形成一种特殊的表示，其作用是为了加速特征点匹配的过程。所谓的特征点匹配本质上是一个通过距离函数（例如欧式距离）在高维矢量之间进行相似性检索的问题，简单来讲就是范围查询或者K近邻查询的问题。 范围查询就是给定查询点和查询距离阈值，从数据集中找出所有与查询点距离小于查询距离阈值的数据；K近邻查询就是给定查询点和正整数K，从数据集中找到距离查询点最近的K个数据，当K=1时，它就是最近邻查询。 如上图(b)我们从输入图像中进行SIFT特征点的检测和特征点的描述后，得到了一个待查询点的集合，接下来就是要找出集合中的每一个待查询点在(a)过程得到的目标物体的特征点集合中进行2近邻查询（即得到最近邻和次近邻），得到一组特征点的匹配对待查询点，待查询点的最近邻；得到所有匹配对后，然后通过阈值法（与最近邻的距离要小于一个常数）和比值法(与最近邻的距离比次近邻的距离要小于一个常数)进行提纯，滤去较差的匹配对。得到最终的匹配对集合。最后在计算单应性矩阵时，使用RANSAC算法再进行一次提纯，剔除错误的匹配对。关于RANSAC算法，我还会再写一篇文章讲一讲。David G.Lowe的论文说3个或以上的特征点匹配对可以确认一个正确的识别。（因为单应性矩阵的计算最少得使用4个点，并且可能会有错误匹配的情况存在，所以最好需要多一点的特征点匹配对） 本文的主要目的是讲一下如何创建k-d tree对目标物体的特征点集合进行数据组织和使用k-d tree最近邻搜索来加速特征点匹配。上面已经讲了特征点匹配的问题其实上是一个最近邻（K近邻）搜索的问题。所以为了更好的引出k-d tree，先讲一讲最近邻搜索。 最近邻搜索 先给出一个最近邻的数学形式的定义。给定一个多维空间，把中的一个向量成为一个样本点或数据点。中样本点的有限集合称为样本集。给定样本集E，和一个样本点d，d的最近邻就是任何样本点d’∈E满足None-nearer(E,d,d’)。 None-nearer如下定义： 上面的公式中距离度量是欧式距离，当然也可以是任何其他Lp-norm。 其中di是向量d的第i个分量。 现在再来说最近邻搜索，如何找到一个这样的d’，它离d的距离在E中是最近的。 很容易想到的一个方法就是线性扫描，也称为穷举搜索，依次计算样本集E中每个样本点到d的距离，然后取最小距离的那个点。这个方法又称为朴素最近邻搜索。当样本集E较大时（在物体识别的问题中，可能有数千个甚至数万个SIFT特征点），显然这种策略是非常耗时的。 因为实际数据一般都会呈现簇状的聚类形态，因此我们想到建立数据索引，然后再进行快速匹配。索引树是一种树结构索引方法，其基本思想是对搜索空间进行层次划分。k-d tree是索引树中的一种典型的方法。 k-d tree的简介及表示 k-d tree是英文K-dimension tree的缩写，是对数据点在k维空间中划分的一种数据结构。k-d tree实际上是一种二叉树。每个结点的内容如下： 域名 类型 描述 dom_elt kd维的向量 kd维空间中的一个样本点 split 整数 分裂维的序号，也是垂直于分割超面的方向轴序号 left kd-tree 由位于该结点分割超面左子空间内所有数据点构成的kd-tree right kd-tree 由位于该结点分割超面右子空间内所有数据点构成的kd-tree 样本集E由k-d tree的结点的集合表示，每个结点表示一个样本点，dom_elt就是表示该样本点的向量。该样本点根据结点的分割超平面将样本空间分为两个子空间。左子空间中的样本点集合由左子树left表示，右子空间中的样本点集合由右子树right表示。分割超平面是一个通过点dom_elt并且垂直于split所指示的方向轴的平面。举个简单的例子，在二维的情况下，一个样本点可以由二维向量(x,y)表示，其中令x维的序号为0，y维的序号为1。假设一个结点的dom_elt为(7,2) ，split的取值为0，那么分割超面就是x=dom_elt(0)=7，它垂直与x轴且过点(7,2)，如下图所示： （红线代表分割超平面） 于是其他数据点的x维（第split=0维）如果小于7，则被分配到左子空间；若大于7，则被分配到右子空间。例如，（5,4）被分配到左子空间，（9，6）被分配到右子空间。如下图所示: 从上面的表也可以看