现代回归与分类.pptVIP

现代回归和分类: 算法建模的回归和分类 吴喜之 ) 算法建模的回归和分类 经典的回归和分类(判别)模型是可以写成公式 的。但是另外一些回归和分类的方法是体现在算 法之中,其具体形式是计算机程序。广义地说, 算法模型实际上包含了经典模型 ·如果说,起源于前计算机时代的经典统计目前大 大受惠于计算机的发展,那么,没有计算机,就 不可能存在算法建模 在处理巨大的数据集上,在对付称为维数诅咒的 大量的变量上,在不用假定总体分布的情况时, 在对付众多竞争模型方面,算法建模较经典建模 有很多不可比拟的优越性。 决策树:分类树和回归树 年龄18? 否 是 是否爱喝酒? 是否开红车? 是 是 高风险低风险 高风险 低风险 例(数据 shuttle. txt) library(MASS); shuttle[1: 10,1 这个数据是关于美国航天飞机在各种条件下是否自动着陆的决策问 题。有256行及7列。头六行为作为自变量的定性变量,而最后 列为因变量。自变量包括稳定性( stability,取值 stab/stab)、误 差大小err,取值MM/SS/LⅩ/Ⅺ)、信号(sign,取值pp/n 风向Wnd,取值head/tai)、风力magn,取值ight/Meum Strong/Ou)、能见度(vis,取值yes/no),因变量为是否用自动 着陆统(use,取值auto/ noauto Problems of computer-aided concept formation. fn Applications of Expert Systems 2. ed J. R. Quinlan, Turing Institute Press/ ddison-Wesley, pp. 310-333 shuttle[1: 10,] tability error sign wind magn vis use x pp head light no auto L又 BE xstah Lx pp tail Light no auto 5 asteR pp tail Medium no auto Lx pp Lx nn head Light. no aut. L nn head mediurm no alto xstah Lx nn head strong no auto Lx nn tail Light no auto 例(数据 shuttle. txt)) n=231 de), split, n, loss, yval, (yprob ★ denotes termin1nod 1)xoot231100auto(0.567099570 2)vis=n。1150aut。(1.000000000.0000000 3)vis=yes11616 noauto(0.137931030 5)eror=ss3012 noauto(0.400000006000000 12) stability=stab164auto(0.750000002500000* 13)stability=stab 14 0 noauto (01* 7}exo=L,MM,XL864 noauto(0.046511630* noauto noauto library (MASS): shuttle[1: 10, m=256, set seed(2) samp=sample(1: m, floor(m/10)); samp=setdiff (1: m, samp) library(rpart plot); (b=rpart(use, shuttle, subset=tsamp)); b: plot(b); text(b, use n=T) t(table(predict(b, shuttle[tsamp, type=class), shuttle [tsamp, 7))