数据库知识发现是(Knowledge Discovery in Databases,简称KDD)是当前涉及人工智能和数据库等学科的一门相当活跃的研究领域,分类是其中的一个重要研究方向。决策树是分类中常用的模型之一,自1966年被提出以来已经得到了广泛的研究和应用。然而,由于其种类偏见和抗噪性差等问题,使决策树优化成为研究人员关注的热点。 本文基于粗糙集合理论对决策树构造算法的优化问题展开研究,主要工作如下: 1.综述并分析了现有决策树经典算法及优化算法。 2.提出了混合变量决策树结构,并基于该结构提出了基于粗集的混合变量决策树算法RSH及其改进算法RSH2。RSH算法遍历所有的属性子集,选择尽可能少的属性明确划分尽可能多的实例;RSH2通过对属性的预排序,不用遍历所有的属性子集,因而可以快速地得到最佳的属性组合。 3.针对传统决策树抗噪性较差的问题,基于可变精度粗集模型提出了VPRsDt算法,利用粗糙集合的相关理论来进行决策树分裂属性的选择和剪枝,将变精度正域作为属性选择判据,减小了噪音对属性选择的影响;将多数包含关系作为决策树停止分裂的标准,减少了特例化的规则而不会影响模型的预测能力,避免了过度拟合问题,同时减小了决策树规模。 4.基于上述研究,实现了原型系统,从理论和实验上证明了所提出的算法的正确性和有效性。