BP-Fisher判别分析法探究.pdfVIP

BP-FisherDiscriminantAnalysis A Thesis Submitted for the Degree of Master Candidate：YangChendong Supervisor：Prof.ChangAnding Chan ’an University, Xi ’an, China 摘 要 非线性判别分析是模式识别领域十分重要的分支之一，随着社会的发展进步对非线 性判别分析不断提出更高的要求，因此，对非线性判别分析的研究具有十分重要的理论 和实际意义。传统的非线性判别分析方法包括：神经网络和核方法。神经网络经常伴随 着过度拟合现象，其拟合能力和泛化性能十分依赖网络结构和参 ；核方法利用核函 将输入样本映射到高维特征空间，在特征空间对映射结果进行线性分类。然而，核函 的选取和确定对核方法的判别精度具有十分重要的影响，如何构造面向实际问题的核函 数一直是核方法研究的难题之一。事实上，核方法依赖经验函数作为映射函 ，缺乏一 定的灵活性。 (1) 针对上述问题，本文尝试构造新的非线性判别分析方法，具体研究内容有： 研 BP RBF RBF 究了 神经网络和 神经网络，在深入研究当前 神经网络训练算法的基础上 Schmidt RBF (2) 提出了 正交基变换方法，用于确定 输出层权值。 受到神经网络和核方 BP Fisher 法的启发，本文利用 神经网络构造映射函 ，将输入数据映射到低维空间，引入 准则思想构造目标函数，将判别分析问题转化为最优化问题，然后利用差分进化算法 (DE) BP-Fisher (BPFDA) BP-Fisher 进行优化求解，提出 判别分析法 。数值实验表明， 判 (3) BPFDA 别分析法具有更高的判别精度。 通过对 法中类间散布矩阵进行改进，提出基 于改进类间散布矩阵的BP-Fisher 判别分析法(NBPFDA) 。数值实验表明，基于改进类 间散布矩阵的BP-Fisher 判别分析法在隐含层节点数目较少时，比BPFDA 方法具有更 高的判别精度。这为非线性判别分析提供了新思想和新方法。 BP Fisher RBF Schmidt 关键词：非线性判别分析， 神经网络， 准则， 神经网络， 正交化，支持向量机，核Fisher 判别分析 I Abstract Nonlinear discriminant analysis is one of the important branch subjects of pattern recognition. With social developing, nonlinear discriminant analysis is proposed for higher requirements. Therefore, to study the nonlinear discrimination has very important theoretic