第三章判别函数分类器.docxVIP

第三章 判别函数分类器 经过特征抽取之后，一个模式可以用 n 维特征空间中的一个点 X 来表示，当特征选择 适当时， 可以使同一类模式的特征点在特征空间中某个子区域内分布， 另一类模式的特征点 在另一子区域分布（例如苹果和橙子的问题） 。这样，我们就可以用空间中的一些超曲面将 特征空间划分为一些互不重叠的子区域， 使不同模式的类别在不同的子区域中。 这些超曲面 称为判别界面，可以用一个方程来表示： d X 0 ，其中的 d X 是一个从 n 维空间到一 维空间的映射，称为是判别函数 (Discriminant Function) 。 在所有的函数形式中， 线性函数是一种最简单的形式， 下面我们就从线性判别函数入手 来研究判别函数分类器。 3.0 预备知识 在介绍线性判别函数之前，先来帮助大家复习一下有关于矢量和矩阵的知识。 矢量 这里的矢量 X 可以看作是 N 维欧氏空间中的一个点，用一个列矢量表示： x1 x2 X xN 矩阵 有的时候矩阵可以看作是由若干个矢量构成的： A  X T1 X T2 X TM A 是一个 M N 的矩阵，其中的 XTi 称为是矩阵的行矢量。 矩阵的秩 矩阵所有行向量中的最大无关组个数称为行秩，矩阵所有列向量中的最大无关组个数称 为列秩。一个矩阵的行秩等于列秩，称为矩阵的秩。 转置 列矢量 W 的转置 W T 为一个行矢量， N