DM 34 预测方法及评价 QBai 21082006.pptVIP

预测方法 Dr. Qingyuan Bai School of Computer Science Faculty of Mathematics and Computer Science, Fuzhou University Email: baiqy@fzu.edu.cn 预测方法 如何预测未知的数据的类? --用前面的分类方法先学习模型 --然后预测未知的数据的类 预测的目的是从历史数据中自动推导出给定数据的推广描述，从而能对未来数据进行预测。 1. 时间序列预测模型 2. 回归方法 1. 时间序列预测模型 1) 简单一次移动平均预测法 2) 加权一次移动平均预测法 3) 指数平滑预测法 1）简单一次移动平均预测法 简单一次移动平均预测法 设{yt}为时间序列，序列有N个原始数据。 取n个项数为移动平均项数 yt是第t 时刻的实际值，求(t+1) 时刻的预测值， yt + yt-1 + ……+ yt-n+1 n 一般 t n, n大 敏感性差，n小 受随机变影响大。 2）加权一次移动平均预测法 简单一次移动平均预测法中把参与平均的数同等看待，但实际应用中参与平均各时刻的数据在预测中的作用是不一样的，为此需要加权平均。 w1 yt + w2 yt-1 +…+ wn yt-n+1 w1+w2+…wn 预测的标准误差与简单一次移动平均预测法一样 3）指数平滑预测法 一次指数平滑 对时间序列{yt } 加权，权的选择是一次的 yt 权为 α, yt-1 权为 α(1-α) , yt-2 权为 α(1- α)2 ，（0α1）。 显然?t+1 值受yt 影响大些，以后依次减弱。 2. 回 归 方 法 回归方法是预测的主要方法，有 1)线性回归 2)多元回归 3)非线性回归 1） 线性回归 线性回归例子 线性回归只能解决一个自变量和一个因变量的关系，如工作年限和工资的关系 X 工作年限 Y 年 薪(千元） 求系数?，? 回归曲线表示 2） 多元回归 多元回归（ Multiple regression） Y = ?0 + ?1X1 +…+ ?nXn. 可以根据X1….Xn 取值 计算出相应的系数 ?0 …… ?n 3） 非线性回归 分类与预测方法的评价 准确度 速度 强壮性 可伸缩性 可解释性 灵敏性、特效性和精度 分类、预测方法的准确度 影响准确率的因素 ◆样本的质量：不准，不典型； ◆学习方法有缺欠； ◆过拟合。 评估准确率的方法 ◆ 保持（Holdout)方法 ◆ K-折交叉确认(K-fold cross-validation） 1 保持（Holdout)方法 将已有标记的数据随机分为 2 部分 训练集和测试集。看测试集准确率。 数据集 2. K-折交叉确认 数据集 S 将S划分为k个互不相交的子集(折)S1, S2,…… Sk,每个折大小大致相等，取 S2, S3,…… Sk做训练，S1做测试；S1, S3,… Sk，做训练，S2做测试；进行k次，k次正确之和除以样本总数，就估计出准确率。 提高准确度的方法 1.Bagging （装袋） 2.Boosting（推进） 这 2 种方法称组合学习方法 1 Bagging(装袋）（1/3） 由于分类方法使用样本集来学习，由于样本的分布问题和不完备问题，选择样本的方法与数量不同，使学到的分类模型不唯一。 为了提高分类精度，人们提出组合学习方法和多策略方法。 Bagging方法是一种组合方法,其基本思想是用对样本集中不同样本取样进行学习，得到多个分类器，然后对多个分类器的结果组合，组合的结果为最终结果。 1 Bagging（装袋）（3/3） 优点: 并行性 Ci 分类器可并行进行，取样是取出放回策略。 抗噪声 由于多个分类器，对噪声不太敏感。 组合选举对各分类可给不同的权值，说明 各分类器