多分类器集成算法研究

来源 :山东师范大学 | 被引量 : 0次 | 上传用户:wq52131
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
多分类器集成,也称多分器组合或多分类器联合,近年来,多分类器融合技术在人脸识别、手写字符识别、遥感图像分类等方向上受到了广泛重视,显示出很大的研究价值和现实应用前景。多分类器集成的研究是从数字识别中产生和发展起来的,其目的是通过对多个互补的分类器识别结果的集成来得到一个高可靠性的识别系统。即旨在充分发挥每个成员分类器在各自分类性能上的优势,获得比单个成员分类器都要好的分类识别率。多分类器集成利用不同分类器之间的互补性,提高集成后分类器的性能。一般通过提高成员分类器的分类性能和增加成员分类器的多样性来达到提高多分类器集成性能的目的。传统的多分类器集成方法在体现分类器的多样性方面存在着很多不足,如:由于组合中的各分类器具有单一性,没有充分考虑具体数据集的特点,因而不能很好对样本进行识别,等等。为了实现组合分类器的最优性能,需要根据具体的识别对象选择适合的分类器进行集成,同时也需要考虑针对不同类别的样本采用不同的集成方式。本文紧紧围绕多分类器集成这一课题,旨在分析研究如何实现成员分类器的多样性来提高集成分类器的性能。充分考虑训练样本集的分布特征,在保证单个分类器高性能的情况下,实现成员分类器多样性的目的。本文的创新性研究成果主要有:1、提出了有关集成学习的两种多分类器动态组合方法(DEA和EMDA)。DEA算法首先根据类别标号将训练数据划分成一个个小集合,并在训练数据类别数的指导下对测试数据聚类,依据欧氏距离找出聚类集与训练数据的小集合之间的对应关系。在Adaboost基础上采用不同的分类算法,在整个训练数据上训练出不同类型的成员分类器,然后通过在训练数据中每个小集合上学习,获得最优的分类器,用它们去分类测试数据聚类后对应的聚类集,从而获得DEA的分类性能。EMDA方法是在DEA算法启发下,寻找另一种选择成员分类器的方法,在DEA中最优分类器的选择是通过误差率来选择的,而EMDA使用信息熵的方法来实现最优分类器的选择。以上两种算法实现了成员分类器的多样性,并且提高了分类性能。同时,我们以Weka软件作为平台实现了DEA和EMDA算法,并在15个标准UCI数据集上进行实验,结果表明我们所提出的两种算法与AdaBoost算法相比,均具有较高的分类准确性和较好的泛化能力。2、提出一种基于特征选择的多分类器集成方法(FSCE)。该方法对训练数据集的属性进行特定选择后,将获得的新数据集映射成属性数目(除类别属性外)个小实例集,然后从每个小实例集训练出的分类器中选择性能较好的,用来对属性选择后对应的每个小测试实例集进行性能测试,并以Weka软件作为平台实现了FSCE算法,且在12个特征不同的标准UCI数据集上进行测试,与基于Adaboost算法训练出的分类器的分类效果进行比较,验证了FSCE算法的有效性。
其他文献
在网络安全通信问题中,抵御拜占庭攻击越来越受到广大科研究工作者的关注,并且成为当前研究的热点问题。当网络中存在这种攻击时,攻击者不仅想得到一些有用的消息,还想通过多
随着信息科技的快速发展,人类的生活发生了翻天覆地的变化。通过智能科学在生活中的普遍应用,人们可以随时享受智能科学带来的方便和快捷。在智能科学中,最具有代表性的就是机器
H.264是一种高性能的视频编码方法,但其在运动估计、帧内预测、插值、变换和算术编码等方面具有很高的计算复杂度。根据其内在的并行度,通过分析并行化的瓶颈所在,合理地设计
团分划问题的目标为将给定图分划为给定大小的完全图集合。在计算生物学的聚类分析等中有着广泛的实际应用场合,团分划问题属于NP-完全问题,因此除非P=NP成立,我们很难找出一个
SIP(Session Initial Protocol)是伴随着互联网的发展而诞生和发展的,并以其简单易用以及良好的扩展性和开放性等优势,已发展成为下一互联网至关重要的应用协议。SIP本身缺乏
周期行为分析方法是通过比较程序不同程序段的特征信息分析程序相似性的方法。由于划分到同一周期行为的程序片段具有相似性能特性和资源需求,因此,周期行为分析已广泛应用于
商业智能工具迅速发展,多维查询技术日趋成熟,在线联机分析系统查询效率的提升成为急需解决的问题。聚集技术是提升在线联机分析系统性能的关键技术之一。在分析达梦聚集技术
多种生物克隆实验结果说明,存在于细胞核染色体中的DNA序列包含了该生命体的全部信息。生物序列进行序列比对后,所得结果包含了序列之间的关系和进化的信息,利用这些信息可以得
随着计算机时代的迅猛发展,分析网络的安全性相当重要。保证安全协议的安全性及秘密性已是网络安全领域的最热门话题之一。安全协议自身的缺陷给网络安全造成了巨大的威胁,为
随着3G时代的到来,高端手机的普及,以及中国移动条码增值业务的推动,基于手机端的二维条码识读技术已成为当今条码识读技术的一个热点研究方向。一种高效、快速、健壮的手机条码