数据挖掘与机器学习(非参数统计)课件.pptVIP

第10章数据挖掘与机器学习;;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;数据挖掘功能;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;数据挖掘的功能/算法/应用的比较 ;数据挖掘常用方法的综合比较*;数据挖掘的具体应用;数据挖掘的步骤*;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;10.1分类一般问题;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;工业控制技术研究所;损失函数;;;;;结构风险最小化(SRM)的基本思想;在有限训练样本下，学习机器的VC维越高则置信范围越大,真实风险与经验风险之间可能的差别越大.这就是为什么会出现过学习现象的原因。 实现SRM的思路之一 就是设计函数集的某种结构使每个子集中都能取得最小的经验风险（如使训练误差为0），然后只需选择适当的子集使置信范围最小，则这个子集中使经验风险最小的函数就是最优函数。SVM方法实际上就是这种思想的具体实现。;10.2 Logistic回归;（一）基本概念和原理; 设资料中有一个因变量y、p个自变量x1, x2,…,xp，对每个实验对象共有n次观测结果，可将原始资料列成表2形式。; 表2 Logistic回归模型的数据结构 实验对象 y 　X1 X2 X3 …. XP  1 y1 a11 a12 a13 … a1p  2 y2 a21 a22 a23 … a2p  3 y3 a31 a32 a33 … a3p  … … … … … … …  n yn an1 an2 an3 … anp ━━━━━━━━━━━━━━━━━━ 　　其中：y取值是二值或多项分类; 表3 肺癌与危险因素的调查分析 例号 是否患病 性别 吸烟 年龄 地区 1 1 1 0 30 0 2 1 0 1 46 1 3 0 0 0 35 1 … … … … … … 30 0 0 0 26 1 注：是否患病中，‘0’代表否，‘1’代表是。性别中‘1’代表男，‘0’代表女，吸烟中‘1’代表吸烟，‘0’代表不吸烟。地区中，‘1’代表农村，‘0’代表城市。 ; 表4 配对资料(1:1) 对子号 病例 对照 x1 x2 x3 x1 x2 x3 1 1 3 0 1 0 1 2 0 3 1 1 3 0 3 0 1 2 0 2 0 … … … … … … … 10 2 2 2 0 0 0 注：X1蛋白质摄入量，取值：0，1，2，3 X2不良饮食习惯，取