论文部分内容阅读
数据挖掘作为一个新兴的学科,在各行各业的决策支持活动中扮演着越来越重要的角色。贝叶斯网络是一种不确定条件下的知识表达和推理工具,拥有其它数据挖掘工具所不具备的优势。利用贝叶斯网络对于事件或者属性间不确定性关系进行建模和推理,在商业智能、医学诊断、自然语言理解、故障诊断、启发式搜索、图像解释以及目标识别等领域产生了很多成功的应用。为了进一步提高其性能并拓展其应用领域,本论文以改进贝叶斯网络分类性能为主要研究目标,研究贝叶斯网络分类模型的算法,并着重考虑其在信用评估中的应用。本论文的主要研究成果如下:1.混合属性的树增强朴素贝叶斯分类器(TAN)、树增强朴素贝叶斯多网分类器(TAMN)的研究TAN、TAMN要求对连续属性变量必须进行预离散化。为了更好地表达数据的分布,减少信息损失,本论文推导了混合属性变量数据的似然函数,实现了连续属性和离散属性对数似然计算的分离;结合图论中有向最小权重生成树算法,提出了扩展的树增强朴素贝叶斯、树增强朴素贝叶斯多网分类器算法;引进了对连续父节点,离散子节点条件概率分布的一种计算方法,从而避免了使用软阈值函数或神经网络拟合这种条件概率分布,减少了运算工作量,提高了计算精度;实现了用参数化的方法模拟连续属性变量,突破了必须对连续变量进行预离散化的限制,能够在TAN的框架内处理混合变量的情况,实验测试证明其具有良好的分类精度。2.灵活的增强朴素贝叶斯分类模型的研究提出了一种基于最小描述长度准则的增强朴素贝叶斯分类器算法。该算法能够根据数据集自适应匹配从朴素贝叶斯分类器(NB)到树增强朴素贝叶斯分类器(TAN)的网络结构,且保持了TAN计算简单和鲁棒的特点。在UCI数据集上用分层交叉验证对该算法进行了对比测试,结果表明该算法具有良好的分类精度。3.判别分析的朴素贝叶斯分类模型研究致力于弥补NB不能提取类间信息的缺陷,结合判别分析方法,提出了一种混合分类模型。首先使用线性判别分析(LDA)或核判别分析(KDA)的方法,寻找类间最大可分离的投影空间。然后再将原样本向最大可分离空间投影,获得新样本。用NB算法在新训练样本中进行学习,获得分类器,从而将NB与判别分析方法有机地结合起来。用该分类方法进行对比实验,结果表明该分类器具有较高的分类正确率。4.应用研究结合信用评估问题,在对数据预处理的基础上,用真实信用数据对已有的贝叶斯网络分类模型算法和本论文中的改进算法进行研究,并与神经网络模型、参数和非参数模型对比。证实了贝叶斯网络作为信用评估的有效性和实用价值。论文对贝叶斯网络信用评估模型进行了以下两个方面的研究:(1)针对贝叶斯网络分类模型,研究数据预处理方法,以及作为信用评估模型的误分率。在真实数据集上运用交叉验证对各种贝叶斯网络信用评估模型进行了测试,并与神经网络个人信用评估模型进行了对比。结果表明贝叶斯网络分类模型适合用于解决信用评估问题。(2)结合最小总风险准则和贝叶斯网络分类器,提出了一种基于风险分类的新型信用评估模型。在真实数据集上按最小总风险准则采用交叉验证对贝叶斯网络信用评估模型进行了测试,并与按最小错误概率准则的神经网络、贝叶斯网络分类模型的结果进行了对比。结果表明基于最小总风险准则的贝叶斯网络分类模型可以有效地减少信用评估的风险。