模式识别理解【荐】.docVIP

一个模式识别系统实现过程示例 对一个样本x，模式识别系统给出的结果不外乎如下几种可能： x属于类别(j，即x((j。 x不属于类别(j，即x((j。 这个问题太难，我（分类器）回答不了。 我们通过对两个小写英文字母“a”和“b”的识别引入模式识别系统的实现过程，如图1.3所示。 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 1 1 0 0 1 1 1 0 0 0 0 0 0 0 0 1 1 0 0 0 1 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 1 0 0 0 0 0 0 1 1 1 0 0 0 0 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 1 0 0 0 0 0 0 0 1 1 0 0 0 1 1 1 1 1 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 1 1 1 1 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 1 1 1 1 0 0 0 0 0 0 0 0 0 1 1 1 0 0 1 1 1 0 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 0 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 0 1 1 0 0 0 0 0 0 0 1 1 0 0 0 0 1 1 0 0 0 0 0 0 0 0 1 1 1 0 1 1 1 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 0 0 0 0 0 0 一个字符用16(16的点阵表示，每个象素（黑白）均采用{0, 1}编码。用xpi表示位置（k1，k2）处的灰度等级，则“a”和“b”可用向量的形式统一表示为 我们以后称为第p个样本（模式，点，向量），维数为16(16=256，为该样本的第i个分量。若只有“a”、“b”两个字符，则一个分类器的决策有以下两种可能： 更一般地，我们用(1代表类别“a”，用(2代表类别“b”，式（1-2）可写成 在设计分类器时，必须对分类器目标（期望）输出进行量化。设dp为分类器的理想输出，则得到一个样本对{，dp}。一般地，分类器的目标输出dp用{0，1}编码，dp=1表示属于类别“a”，dp=0表示不属于类别“a”而属于“b”。图1.4为一个分类器为实现对上述两个字母分类的学习过程示意图。 在图1.4中，yp为分类器的实际输出。设置一个阈值(，则有决策规则： 显然，对两类问题，目标输出为{0，1}编码时，分类阈值可以取(=0.5；目标输出为{-1，1}编码时，分类阈值可以取(=0。 推广一下，若字母“a”共有N1个样本，字母“b”共有N2个样本，则数据集写成： 这里，N=N1+N2。 式（1-5）中每一行为一个样本对，写成简化的矩阵形式，就是 ，其中，X(RN(256，。 当类别数大于2时，分类器目标输出是一个向量，为便于计算机处理，仍采用{0，1}编码。例如，有3个字母“a”，“b”和“c”，则目标向量可写成。其中，代表字母“a”，代表字母“b”，代表字母“c”，等等，依此类推。 设第p个样本属于类别“a”，则学习样本对具体写出来就是： 一般地，若样本集共有N个样本，分别属于n个类别，记为我们称为输入数据阵，共有N个样本，样本输入维数为m；为输出数据阵，共有N个样本，样本输出维数为n。 为便于计算机处理，一般数据集的常用格式是 最后一列为样本序号。 回到字母“a”、“b”的分类问题。在目前为16