决策树ID3算法在客户信息分类中的应用.pdfVIP

第 32卷 第 5期 佛 山科 学技术 学 院学报 （自然科 学版 ） V o l.3 2N o.5 2 0 14 年 9 月 JournalofFoshanUniversity （NaturalSciencesEdition ） S e p.2 0 14 文章编号 ：1008-0 17 1（20 14 ）05-0065-04 决策树 ID3 算法在客户信息分类中的应用 吴建源 （广 东培正学院 计算机科 学与工程 系，广 东 广州 510830 ） 摘要 ：在现代企业 ，如何保 留客户是企业客户管理 的重要研究方 向。 使用决策树 ID3 算法 ，分析客户 的属性特 征 ，实现客户信息的分类 ，找出各类客户 的特征 ，有针对性地改善客户关系 ，从而避免客户流失 ，提高市场 的占 有率 。 关键词 ：数据挖掘 ；决策树 ；ID3 算法 ；客户分类 中图分类号 ：TP30 1.6 文献标志码 ：A 数据挖掘广泛应用于决策支持 、信息管理 、市场营销 、工程控制等领域 ，其涵盖人工智能 、数据库 、 并行计算 、数理统计 、可视化等学科知识 。 数据挖掘 的定义有多种 ，其 中比较权威 的是加拿大 Jiawei Han 教授提 出的 ，即数据挖掘是从大量 、不完全 、有噪声 、模糊 、随机 的数据 中提取隐含在其 中、人们事 先不知道 ，但又是潜在有用的信息和知识 的过程[1] 。 数据挖掘的模式主要有分类 、关联规则 、聚类和序列 模式等。 客户细分是美 国学者温德尔 ·史密斯于 1956 年提出来 的 ，主要指企业在 明确 的策略、业务模式和 专注的市场条件下 ，根据客户的属性 、行为、需求 、偏好 以及价值等因素对客户进行分类 。 属于同一客户 群的消费者具有一定程度 的相似性 ，反之则存在 明显 的差异性 。 1 决策树分类算法 决策树是一种常用的有效 的分类方法 ，是 以样本 的属性作为结点 、属性 的取值作为分支 的树结构 ， 从样本数据 中找出潜在的、对决策有价值 的信息 ，常用于预测模型中。 决策树的根结点是所有样本 中信 息量最大的属性 ，树 的中间结点是 以该结点为根 的子树所包含 的样本子集 中信息量最大的属性 ，叶结 点是样本 的类别值[2] 。 在各种决策树分类算法 中，最典型的是 Quinlan 于 1979 年提出的基于信息论 、以信息熵和信息增 益作为度量标准 的 ID3 算法 ，它采用 自顶 向下不 回溯 的策略搜索全部 的属性空间 ，选择信息增益最大 的属性作为决策树 的结点 ，该算法思想简单 ，深度小 ，分类速度快 ，实现了对数据 的归纳分类 。 克劳德 ·香农 （C.E.Shannon ）于 1948 年提出信息论 ，他借鉴热力学 的概念 ，对信息熵 、条件熵和信 息增益分别作 了如下公式定义 [3] 。 信息熵为 n I （U）=- P （u ）log P （u ）， （1） 移 i 2 i i=1 其 中，U 为一个包含 u 个数据样本 的集合 ， 其类别属性取 n 个互不相容 的值 ， 对应于 n 个不 同的类别 收稿 日期 ：20 14-0 1-0 1 作者简介 ：吴建源（1978- ），男 ，福建泉州人 ，广东培正学院讲师 。 66 佛 山科 学技术学院学报（自然科 学版 ） 第 32 卷 u