【摘 要】
:
随着计算机技术的迅猛发展,越来越多的人开始接触到了互联网。由于我们每天活跃在各种互联网应用上面,数据开始爆炸式增长。面对海量的数据,如何才能精准而高效地发现其中隐
论文部分内容阅读
随着计算机技术的迅猛发展,越来越多的人开始接触到了互联网。由于我们每天活跃在各种互联网应用上面,数据开始爆炸式增长。面对海量的数据,如何才能精准而高效地发现其中隐藏的价值,在当今时代显得尤为重要。文本数据作为海量数据中的重要组成部分,其蕴含的价值更是非常丰富,而这些文本数据最常用来进行文本分类。传统的单机分类算法在处理海量数据时由于数据体量庞大往往分类效果不是很理想,而近些年来分布式技术的推广为海量文本分类提供了保障。本文采用了Hadoop作为并行计算的架构,因此首先介绍了Hadoop的发展历程、系统组成以及特点等,然后重点说明了HDFS和MapReduce,包括了它们的系统原理、特点、数据计算过程等。对于中文文本分类过程中的关键技术,本文也进行了详细的说明,分类模型的训练作为分类过程中最关键一步,我们对支持向量机SVM的相关分类知识进行了分析研究。本文结合Hadoop平台和SVM算法,提出了一种改进后的文本分类模型,改进后的算法有两点优化:第一,为了加速训练过程,在模型的训练阶段,对基本的层叠支持向量机模型上的每一层都加上了迭代停机条件进行判断,这样在满足精度的前提下,可以提前结束训练;第二,针对SVM算法在分类超平面附近分类效果不理想的情况,对SVM做出改进。即在模型的分类阶段,根据分类样本位置分布不同选择不同的分类方法。为了验证本文提出方法的正确性,我们进行了实验验证。通过设计相关实验,我们对比了单机支持向量机、改进的支持向量机以及改进的并行支持向量机三种方法在分类效率和分类准确率上的表现。通过对结果分析,改进的算法在分类效率上有很大的提升,在分类准确率上的表现也不错,因此在处理海量文本的分类问题会有很大的优势。
其他文献
目的:研究静脉联合化疗对犬腹主动脉人工血管置换术后吻合口及人工血管内膜的影响。方法:成年健康杂种犬26只,均行腹主动脉ePTFE人工血管置换手术,术后随机分为对照组(Cont组)
目的探讨针灸治疗膝关节骨性关节炎的临床疗效,分析作用机制。方法随机选取2017年1月至2018年4月于我院就诊的膝关节骨性关节炎患者60例,对其分为对照组与实验组,对照组口服
甘肃引黄高扬程灌区新垦盐碱荒地普遍存在土壤肥力低、盐分含量高、保水保肥性能差、作物出苗保苗困难等问题。在盐渍条件下,作物生长本身就受到盐分抑制,如果施肥不当,不但不会
甘南文学作为一种地域文学,从甘南藏族自治州建州算起,已经有近60年的历史,在60年里,甘南文学逐渐由幼稚走向成熟,其间无不凝聚着几代作家的努力,他们在不断探索中形成自己鲜明的地
<正>自1954年在法国率先实行增值税以来,在其后二、三十年的时间里,迅速在世界范围内推行。我国从1994年起,在工业、商贸、进口环节和加工、修理修配等环节普遍实行了增值税
随着互联网的高速发展,网络购物成为这个时代时尚快捷的购物方式,人们在享受这种新时代赋予的便捷的同时,也遭遇到一些问题,不合理的格式条款便是其中之一。格式条款主要是指在合
本文以广西蔗区新农村调查为基础,分析我国少数民族地区乡村精英在乡村治理权力结构中的地位变迁,指出当前乡村精英权力复位现象不是因为“治理成本过高”迫使政权力量退出乡
随着大众化旅游消费的来临,旅游业已经开始成为人类社会现代化生活方式和社会经济活动的主要载体,旅游业以强有力量的发展势头变成在全球化经济发展潮流中最有前进动力的“朝阳
随着教育形势的发展和学校布局的调整,金塔学校已全面步入寄宿制的轨道。起步阶段,学校的教育管理基本上处于封闭状态,学生受外界的干扰因素很少。这种封闭状态的教育管理模
监外执行是我国刑罚执行的一种特殊方式,是对罪犯采取不予关押,管理监督交由基层公安机关执行,基层群众监督考察相结合的一种刑罚执行方式。由于现行监外执行法律制度存在一