基于风险函数的二分类判别分析方法研究.pdfVIP

摘 要 在二分类判别中，LDA （线性判别）与LR （Logistic回归）是应用最为广泛 x 的两种重要方法。设随机变量 来自于一个二分类混合总体，两个类别分别标记 y 1 y 0     1 x 为 和 ，来自两个类别的先验概率为 ， ， 。我们则根据 1 0 1 0 的取值来进行判别归类。Eguchi S. Copas J . （2002）提出了一个风险函数， s U(s) V(s) 该风险函数由两个以线性判别函数 为自变量的惩罚函数 ， 构成，这个 s 惩罚函数要具备两个特性：当 （ ）时，惩罚函数的取值会随 的增大 y 0 y 1 s 而增大；当 （ ）时，会随 的增大而减小。 y 1 y 0 本文依据N-P 引理中的对数优势比率，在待判二分类总体服从正态或指数分 布情况下，得到LDA与LR线性形式的对数优势比函数，通过极小化上述风险函 数确定线性优势比函数的最优阈值，建立新的判别准则。并证明了当惩罚函数取 某种特殊形式时，与最小误判率和最高判别精度的经典线性判别方法和经典的 Logistic 回归判别方法完全等价，说明新的分类方法更具有一般性。同时，通 过数值模拟和实例分析比较了LDA与LR在同一无差别惩罚风险函数下的判别效 果。结果显示，当样本数据满足同协方差不同均值向量的假设条件时，LDA 的效 果更好，否则LR 的效果更好。 关键词：Logistic回归，线性判别，风险函数，最优阈值 I ABSTRACT LDA(linear discrimination) andLR (logisticregression) arethetwomost widely used methods in dichotomy discrimination. Suppose the random variable x comes from a dichotomous mixed population, The two categories are respectively marked asy 1andy 0,andthepriorprobability from thetwocategoriesis , ， ;     1 1 0 1 0 x were going to categorize it according to thevalues of .Eguchi s. Copasj.(2002) put forward a risk function, which is composed of two penalty functions of U(s) V(s), .Their inde