基于ID3算法的决策树源码.docVIP

ID3实验报告 人工智能课程实验第一小组 成员：赖昌灏（组长黄黄徐 揭 赖斯 刘银一.实验题目 实现ID3算法 二.实验要求 生成基于ID3算法的决策树 三.算法设计分析 3.1数据结构 //例子结点 struct SampleNode { vectorint propertyValues; //各个属性的值 int policyValue; //决策值 int id; //决策的id }; //属性结点 struct PropertyNode { int amount; //元素的数量 CString name; //属性的名字 vectorCString elementNames; //各元素的名字 }; //树结点 struct TreeNode { bool isLeaf; //是否为叶结点 int propertyNo; //属性号 int propertyValue; //属性值 int policyValue; //决策值 int parent; //父结点 vectorint childs; //子结点 vectorint sets; //要处理的S集，对于子结点 vectorint propertys; //尚求处理的属性 }; //规则集的结点 class RuleNode { public: vectorConditionNode conditions; //前提 int conclusion; //结论 }; vectorCString policys; //决策集 vectorPropertyNode propertys; //属性集 vectorSampleNode samples; //例子集 vectorTreeNode tree; //决策树 stackint Stack; //存储待处理的结点的下标 vectorRuleNode rules; //规则集 3.2算法 基于ID3生成决策树算法 初始化决策树的根结点，压入栈 While(栈不为空) 取出栈顶元素，并弹出 算出该元素对应的各属性的熵 取熵值最小的属性进行扩展 如果这个属性是最后一个属性 将其所有属性值都扩展为叶结点 否则遍历该属性所有可能的取值 如果这个值对应的熵为0 则将其扩展为叶结点，存入决策树中 否则 则将其扩展为非叶结点，存入决策树并压入栈中 初始化决策树的根结点，压入栈 初始化决策树的根结点，压入栈 栈不为空 取出栈顶元素，并弹出，算出该元素对应的各属性的熵 取熵值最小的属性进行扩展 这个属性是最后一个属性 将其所有属性值都扩展为叶结点 遍历该属性所有可能的取值 这个值对应的熵为0 将其扩展为叶结点，存入决策树中 将其扩展为非叶结点，存入决策树并压入栈中 遍历结束？ 结束 否 是 是 否 是 否 是 否 遍历决策树，生成规则集算法 //使用递归的架构 void TravelTree(int nodeNum) { if tree[nodeNum] 为叶结点 //如果为叶结点，则进行处理 处理并加入规则集中 返回 Else //遍历访问该结点的各个孩子结点 for(t = 0; t tree[nodeNum].childs.size(); t++) { //访问该结点的孩子结点 TravelTree(tree[nodeNum].childs[t]); } } 对输入的条件进行决策的算法 遍历所有规则 如果输入条件与规则的条件有冲突的 则跳过 否则 如果输入条件与规则的条件完全匹配 则清空匹配规则集，并将此规则加入匹配规则集，返回 否则 将此规则加入匹配规则集 四.程序界面及使用说明 图1.点击读入数据按钮，读入数据 图2 点击开始计算按钮 生成规则集 图3 在条件输入框按要求输入条件 图4 点击进行匹配后，生成图下方的结论 五.实验心得 1.此次实验的算法比较简单，可是实现起来并不简单，用到的数据结构比较复杂，而且编程过程容易出错。 2.使用了stl的vector容器，及stack，提高了编程的速度，且提高了代码的稳定性。 3.编程过程中，如果涉及到访问数组的，一定要进行边界检测，看看是否越界