基于支持向量机的不平衡数据分类方法研究与应用

被引量 : 0次 | 上传用户:guaiguaiwdairen
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在很多实际应用中,如入侵检测、医疗诊断和故障检测等,我们要进行处理研究的数据大多数都是不平衡数据集,即某些类别的样本数量远远少于其它类别样本数量的数据集,在大多数情况下,少数类样本中所蕴含的信息量却更值得关注。然而,对不平衡数据进行分类研究时,传统分类方法的分类结果总会倾向于多数类,而对少数类的样本的识别率低。因此,如何有效地改善和提高不平衡数据集中少数类样本的分类精度和分类器的整体性能已逐渐成为机器学习领域和实际应用领域的一个研究热点和难点。支持向量机(Support Vector Machine, SVM)是针对有限样本情况下的、以统计学理论为坚实理论基础的新的机器学习方法。针对支持向量机算法处理不平衡数据时分类精确度较低的缺陷,本文在基于理论分析和实验证明的基础之上提出了三种改进型算法,并将这三种算法集成至一个系统原型中。第一种改进型算法是在聚类权重模型基础之上提出的:分阶段的支持向量机(WSVM)。预处理时,采用K均值算法得到多数类中各样本的权重。分类时,第一阶段根据权重选出多数类内各簇边界区域的与少数类数目相等的样本;第二阶段对选取的样本和少数类样本进行初始分类;第三阶段用多数类中未选取的样本对初始分类器进行优化调整,当满足停止条件时,得到最终分类器。通过对UCI数据集上的实验表明,WSVM在少数类样本的识别率和分类器的整体性能上都优于传统分类算法及相应的改进型算法。第二种改进型算法针对少数类样本合成过采样技术(Synthetic MinorityOver-sampling Technique,SMOTE)在生成少数类新样本时存在的缺陷,提出了一种新的改进型SMOTE算法(GA-SMOTE)。GA-SMOTE算法借鉴遗传算法中三个基本遗传算子的思想和策略,并将其成功应用于SMOTE算法中,选择算子实现对少数类样本有区别地选择,交叉、变异算子实现对合成样本质量和数量的控制。将GA-SMOTE与SVM算法结合处理不平衡数据的分类问题。通过对UCI数据集上的实验表明,GA-SMOTE结合SVM算法在少数类样本的识别率和分类器的整体性能上都优于传统分类算法及相应的改进型算法。第三种改进型算法针对SVM在超平面附近进行不平衡数据分类的不准确性,提出了一种改进SVM-KNN算法,该算法在分类阶段计算测试样本与最优超平面的距离,如果距离差大于给定阈值可直接应用支持向量机分类;如果距离差小于给定阈值,则将所有支持向量都作为测试样本的近邻样本,进行KNN分类。通过对UCI数据集上的实验表明,该算法在少数类样本的识别率和分类器的整体性能上都优于传统分类算法及相应的改进型算法。本文最后将上述三种改进型算法集成于一个处理不平衡数据的分类系统原型中。该系统由载入数据及数据预处理模块、数据分类处理模块、分类结果可视化与持久化模块三部分组成,通过数据的运行测试表明了该系统具有良好的使用效果和用户体验。
其他文献
飞秒激光作为一种新兴的微/纳加工方法和探测工具,其与材料相互作用中的非线性、非平衡态过程逐渐被人所揭示。诸如脉冲持续时间,峰值功率,波长等激光参数已被证明对飞秒激光与
作为投资者,无论在什么历史阶段,什么发展阶段,最有效的投资始终都是价值投资,也符合逻辑并且有理论指导,当然也就是所谓的,真正的理性的投资。作为一个较为成熟的投资者,价
结合实际,针对小区配套商铺电气设计的措施进行了阐述。
科学发展观是中国特色社会主义理论体系的重要组成部分,是新时期中国共产党治党理政的重要指导思想和行动纲领。建设社会主义生态文明,既符合人类文明发展的趋势,又顺应当今
科学合理的职前教师教育课程是影响教师培养质量的直接因素,是培养成功教师的基础,也是教师专业化的保障。美国教师教育走在世界前列,自1823年霍尔在佛罗蒙特州建立美国第一所师
在整个建设过程中,不可避免地会存在浪费建设成本的现象,这些现象会影响建设项目的经济效益,还会增加资金链断裂的可能性,影响建设工作活动,不利于完成建设工作任务。鉴于此,
目的:通过MRI和X线、CT的方法筛选适合无水乙醇介入治疗的颌骨囊性病变的病例;分析和评价牙源性角化囊性瘤和成釉细胞瘤的磁共振扩散加权成像(MR-DWI)特点,评估表观弥散系数在鉴别
<正> 异丙肌苷(Isoprinosine;Inosiplex)是1980年美国Newport pharm公司开发,1981年在意大利上市的一种新药。它是2-羟丙基二甲胺和4-乙酰胺基苯甲酸生成的盐与肌苷按分子比3
随着社会的发展,旧的教材已经不适合变化的生源现状,改革教材刻不容缓,《新概念英语》是最佳的选择,经过一年的实践,形成了新的课堂格局,取得了良好效果。
富兰克林说过:“保持健康,这是对自己的义务,甚至也是对社会的义务。”①健康议题被世人愈发重视,随着新媒体登上了历史舞台,健康传播也焕发出了新的生机,加之微博在近年的不断走俏