数据挖掘中易犯的10大错误.pdfVIP

@数据分析精选：分享数据分析、数据挖掘期待名人和人名猛击“关注”实在是您学习研究、职场商战的 必备猛药。 数据挖掘中易犯的 10大错误 作者：@张磊 IDMER 原文：/117134261.html 原文标题为“Top 10 Data Mining Mistakes”，作者是John F. Elder IV, Ph.D. 编译：IDMer （数据挖掘者） /doc/elder.pdf 按照 Elder 博士的总结，这 10 大易犯错误包括： 0. 缺乏数据（Lack Data） 1. 太关注训练（Focus on Training） 2. 只依赖一项技术（Rely on One Technique） 3. 提错了问题（Ask the Wrong Question ） 4. 只靠数据来说话（Listen (only) to the Data） 5. 使用了未来的信息（Accept Leaks from the Future） 6. 抛弃了不该忽略的案例（Discount Pesky Cases） 7. 轻信预测（Extrapolate） 8. 试图回答所有问题（Answer Every Inquiry） 9. 随便地进行抽样（Sample Casually） 10. 太相信最佳模型（Believe the Best Model） @数据分析精选：分享数据分析、数据挖掘期待名人和人名猛击“关注”实在是您学习研究、职场商战的 必备猛药。 0. 缺乏数据（Lack Data） 对于分类问题或预估问题来说，常常缺乏准确标注的案例。 例如： －欺诈侦测（Fraud Detection）：在上百万的交易中，可能只有屈指可数的欺诈交易，还 有很多的欺诈交易没有被正确标注出来，这就需要在建模前花费大量人力来修正。 －信用评分（Credit Scoring）：需要对潜在的高风险客户进行长期跟踪（比如两年）， 从而积累足够的评分样本。 1. 太关注训练（Focus on Training） IDMer：就象体育训练中越来越注重实战训练，因为单纯的封闭式训练常常会训练时状态 神勇，比赛时一塌糊涂。 实际上，只有样本外数据上的模型评分结果才真正有用！（否则的话，直接用参照表好了！） 例如： －癌症检测（Cancer detection）：MD Anderson 的医生和研究人员（1993）使用神经 网络来进行癌症检测，惊奇地发现，训练时间越长（从几天延长至数周），对训练集的性能 改善非常轻微，但在测试集上的性能却明显下降。 －机器学习或计算机科学研究者常常试图让模型在已知数据上表现最优，这样做的结果通常 会导致过度拟合（overfit ）。 解决方法： 解决这个问题的典型方法是重抽样（Re-Sampling）。重抽样技术包括：bootstrap、 cross-validation、jackknife、leave-one-out...等等。 2. 只依赖一项技术（Rely on One Technique） IDMer：这个错误和第10 种错误有相通之处，请同时参照其解决方法。没有对比也就没有 所谓的好坏，辩证法的思想在此体现无遗。 “当小孩子手拿一把锤子时，整个世界看起来就是一枚钉子。”要想让工作尽善尽美，就需要 一套完整的工具箱。 不要简单地信赖你用单个方法分析的结果，至少要和传统方法（比如线性回归或线性判别分 析）做个比较。 研究结果：按照《神经网络》期刊的统计，在过去 3 年来，只有1/6 的文章中做到了上述 两点。也就是说，在独立于训练样本之外的测试集上进行了开集测试，并与其它广泛采用的 方法进行了对比。 解决方法： 使用一系列好的工具和方法。（每种工具或方法可能最多带来5%~10%的改进）。 @数据分析精选：分享数据分析、数据挖掘期待名人和人名猛击“关注”实在是您学习研究、职场商战的 必备猛药。 3. 提错了问题（Ask the Wrong Question ） IDMer：一般在分类算法中都会给出分类精度作为衡量模型好坏的标准，但在实际项目中 我们却几乎不看这个指标。为什么？因为那不是我们关注的目标。 a)项目的目标：一定要锁定正确的目标 例如： 欺诈侦测（关注的是正例！）（Shannon 实验室在国际长途电话上的分析）：不要试图在 一般的通话中把欺诈和非欺诈行为分类出来，重点应放在如何描述正常通话的特征，然后据 此发现异常通话行为。 b)模型的目标：让计算机去做你希望它做的事 大多数研究人员会沉迷于模型的收敛性来尽量降低误差，这样让他们可以获得数学上的美感。 但更应该让计算机做的事情应该是如何改善业务，