结构驱动的单类分类器设计及拓展研究

来源 :南京航空航天大学 | 被引量 : 5次 | 上传用户:shijipan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
分类器设计中的一个根本问题是如何提高其泛化能力,即根据从已有样本中获取的知识对未知样本进行判别的能力。因此,尽可能从样本中获取足够多的先验知识是提高泛化能力的重要途径之一。在单类分类中,由于异常样本缺失使数据信息大为减少,从而使分类器设计更为困难,因此尽力挖掘仅有的一类目标数据中的先验知识尤为重要。本文围绕着单类分类器设计,并针对数据局部密度信息、结构信息、簇信息以及少量异常数据信息等先验知识的挖掘和利用进行了较为深入的研究,所取得的主要成果如下:(1)以密度估计和支持域方法为主线综述了单类分类器的主要研究方法,并提出了一种两者结合的混合模型。从密度估计、支持域的角度重新梳理了单类分类器的主要算法,并针对作为研究热点的支持域方法,在洞察出各算法联系的基础上深入分析了超平面和超球模型的主要改进/变形模型;通过在支持域方法中嵌入局部密度,提出了适用于非对称数据分布的混合模型——局部密度嵌入的单类支持向量机线性规划算法。(2)提出了结构驱动学习策略及相应单类模型——结构单类支持向量机(SOCSVM),并推导出对应的错分误差界。针对现有超平面单类分类器只注重局部或全局学习之不足,提出了全局与局部学习兼备的结构驱动学习策略,并以单类支持向量机为原型,通过嵌入数据结构分布信息设计出相应模型——结构单类支持向量机。作为本文后续工作的研究基础,理论证明了其最优解具有唯一性和鲁棒性,并推导出相应的错分误差界。人工和UCI数据上的实验结果表明:考虑了数据分布趋势的SOCSVM具有更强的数据描述能力,从而验证了结构驱动学习策略的有效性;(3)发展出了适用于单类多簇数据分布的结构驱动模型——结构大间隔单类分类器(SLMOCC)。基于数据分布的结构驱动学习使多簇目标数据的处理不同于单簇数据,并因此衍生出相应的分类器——结构大间隔单类分类器(SLMOCC)。通过分别约束各簇数据到最优超平面的马氏距离,SLMOCC最大程度地利用了数据的结构信息并因此具有了更精细的数据描述。为捕捉数据的多簇分布,采用了可自动确定聚类数目的凝聚型层次聚类算法。人工和UCI数据上的实验结果表明SLMOCC的性能有显著提高。(4)构建了单类和两类问题以及数据不平衡问题的统一框架。通过在SOCSVM最小化正半空间的同时最大化正负类间隔或将结构驱动学习策略作用于ν-SVM算法并引入超平面阈值,发展出了两等价模型并统称为偏结构数据描述与判别机(BSD3M)框架,放宽了经典SVM中两类支持向量平衡的限制,并因此能够根据需要控制超平面的位置。通过合理设置目标函数及判别函数中的相应参数,BSD3M不仅可用于含极少量异常的单类问题以提高数据描述能力,同时也可推广于正负类数据大致平衡的两类问题及少量数据更为重要的数据不平衡问题。部分UCI数据集上含5%异常数据的实验结果表明:充分利用负类信息的BSD3M较之单类算法和SVM算法更为准确地描述了目标数据区域。(5)推广出了一系列与上述各模型学习能力相当的线性规划快速算法以提高计算效率。通过最小化目标数据到超平面的函数距离,推广出SOCSVM的线性规划算法SlpOCSVM并因此使计算复杂度从二次规划的O ( n 3)提升至最快O ( n );进一步将该思想应用于多簇目标数据并以各簇数据协方差之和取代整体协方差矩阵,可将SLMOCC二次锥规划的多项式时间大幅降低;而将SlpOCSVM嵌入数据类间隔亦发展出了BSD3M的线性规划算法。上述各快速算法的实验结果验证了结构驱动学习及多簇信息嵌入同样适用于非间隔算法。
其他文献
党的十六届四中全会提出科学发展观.指导社会经济发展.进一步调整经济结构和转变经济增长方式,实现经济社会全面可持续发展。国有经济要实施战略性改组.以资本为纽带.通过市场形成
通过化学成分分析、机械性能试验、金相分析、扫描电镜(SEM)观察和能谱分析等手段,对某化工厂100 t/h燃气锅炉燃烧器TP310S不锈钢喷嘴腐蚀开裂的原因进行了研究。结果表明,喷
以粒径在0.025—1Omm的微粒为橡胶掺合料,分别在强度等级C35的条件下,以不同体积替代量替代砂的改性混凝土材料,20%掺量时,强度等级能够达到C20,60%以下掺量时,强度等级能够达到C10。
设计财务共享中心网上报销系统,解决内部控制、预算和员工实时查看节点进度、报表分析等问题。网上报销系统采用二维码和光学字符识别(OCR)技术,结合财务共享中心的整体构架,
一、网络经济的内涵  众所周知, 知识经济是以电脑、卫星通信、光缆通信和数码技术等为标志的现代信息技术和全球信息网络"爆炸性"发展的必然结果.在知识经济条件下,现实经
期刊
脑血栓是脑血管疾病中的常见病。发病率以老年组为高。基于老年人组织器官生理功能衰退。故康复较慢,加之疾病所致躯体的状态改变。如口角歪斜、言语障碍、肢瘫等,容易造成患者
随着生产力和经济社会的快速发展,特别是随着工业、商业、交通运输业、现代农业、新型城镇化的快速发展,越来越要求土地的社会化利用,土地使用方式改变必然要求土地产权关系
在当前喧嚷的底层写作浪潮和理论争鸣中,河南作家以应有的良知和质朴的人道主义情怀把目光瞄准底层,直面底层百姓生活,在理性冷静或激情难抑的真切叙写中,揭示出身处社会底层
一、我国奥运品牌理念 举办2008年奥运会上始终保持奋发有为、昂扬向上的积极的文化状态,以创建我国体育文化品牌;第一个理念体现了“百年大计,质量第一”的精神,在实践中提
陶鬲,古代炊具,新石器时代晚期出现,商周时期继续流行。其形状似鼎而空足,侈口、圆腹、三个袋状足。使用时,在三袋状足下直接燃火煮食。鬲有实用器与明器之分,实用器多为类砂