【摘 要】
:
随着网络技术的快速发展,每时每刻都有大规模的数据产生,Hadoop平台的主要部分之一—MapReduce对于处理这些数据具有重要作用。在MapReduce下,一个作业被分解成多个小任务,然后将任务分配到多个节点上执行,以提高作业的运行效率。但是在作业的运行过程中有些任务由于节点故障、网络堵塞等原因成为落后任务。目前,解决落后任务的主要办法是:为了加快作业的完成,首先识别落后任务,然后为其进行备份,
论文部分内容阅读
随着网络技术的快速发展,每时每刻都有大规模的数据产生,Hadoop平台的主要部分之一—MapReduce对于处理这些数据具有重要作用。在MapReduce下,一个作业被分解成多个小任务,然后将任务分配到多个节点上执行,以提高作业的运行效率。但是在作业的运行过程中有些任务由于节点故障、网络堵塞等原因成为落后任务。目前,解决落后任务的主要办法是:为了加快作业的完成,首先识别落后任务,然后为其进行备份,将备份任务分配到其他节点上执行。因此,研究Hadoop下落后任务的识别与调度对提高系统的性能、缩短作业的执行时间具有重要意义。论文的主要工作如下:(1)提出了基于局部加权线性回归(LWLR)的落后任务识别算法。首先,对任务进行了类型划分,分为CPU密集和IO稀疏型,CPU密集和IO密集型,CPU稀疏和IO密集型,CPU稀疏和IO稀疏型四种类型。然后,引入LWLR算法建立任务的进度和执行时间之间的关系,进而预测任务的剩余完成时间,为了提高预测的准确性,对任务的剩余完成时间进行分阶段预测。最后,将所预测出的任务的剩余完成时间从大到小进行排序,并且选择前25%的任务为落后任务。实验结果表明,本文算法的落后任务识别准确率和LATE算法、CPL算法、ELATE算法对比,分别提高了 27.47%、7.27%、4.27%。(2)提出了基于烟花算法(FWA)的落后任务调度算法。在选择最优节点时综合考虑了节点的成功率和负载,在确定节点负载时考虑CPU使用率、IO使用率、带宽使用率以及内存使用率四个影响因素,并且利用层次分析法来确定每个因素对负载的影响程度,选择出成功率与负载比值最大的为最优节点。选择出最优节点后可能会出现均衡性低的问题。而且烟花算法的并行性可以用来处理任务调度问题,并且也可以实现负载均衡。因此,当备份任务数达到总任务数的阈值时,则通过引入烟花算法来保证节点的负载均衡,尽可能将备份任务调度到完成任务最快的节点上执行。实验结果表明,在作业的完成时间方面,本文算法比LATE算法、CPL算法、ELATE算法分别降低了 26.18%、14%、5.75%。在备份任务的成功率方面,本文算法分别比LATE算法、CPL 算法、ELATE 算法提高了 20.35%、3.9%、1.7%。
其他文献
树莓营养价值较高,特别是在增强抵抗力、预防癌症、保护心脏等方面的功效十分突出,因此树莓得到了世界消费者的广泛认可。由于树莓良好的经济价值,我国树莓产业近几年也在逐步扩大,但是目前我国所采用的采摘方式是人工采摘,其劳动强度大、效率低、成本高,限制了我国树莓产业的迅速发展。为了解决人工采摘所带来的种种问题,本文通过对国内外林果采摘机械和采摘方法进行研究,与本地区托拉蜜树莓品种的植株实际生物学特性相结合
随着我国城市化进程的加速推进和乡村振兴战略的全面实施,硬化路面大量增加,符合绿色环保要求的透水混凝土路面的研究与应用方兴未艾。另一方面,大量基础设施建设所需的骨料越来越难以获取,而大量的铁尾矿作为工业废弃物占据土地且对环境和安全造成重大影响。为了响应国家对于海绵城市建设及积极利用尾矿废弃物的号召,本文采用铁尾矿粉合成骨料替代部分天然粗骨料的方法,通过试验开发和制备一种新型材料透水混凝土,分析测试其
针灸治疗消化系统疾病有明显优势,但不同针术的比较、针灸作用途径及作用机制的研究还处于初级阶段。本试验选用临床治疗便秘的常用穴位后海穴(GV-1),探讨白针水针与埋线对便秘大鼠的作用途径及作用机制。选用成年SD大鼠60只,雌雄各半,随机分为对照组(A),模型组(B),西药组(C),白针组(D),水针组(E),埋线组(F)共6组,每组10只。对照组灌胃生理盐水,其余大鼠每天灌胃盐酸洛哌丁胺3 mg/k
基于黄河流域棉区棉花生产轻简栽培、节本增效的发展现状,本试验进行早期干旱和密度对棉花生长发育的调控效应研究。本研究于2019年和2020年在河北农业大学清苑试验站进行大田试验,以农大棉601为材料,采用二因素裂区设计,主区为水分处理:对照(CK)和早期干旱(D),副区为密度处理:6万株·hm-2、9万株.hm-2和 12 万株.hm-2。共六个处理:CK-6、CK-9、CK-12、D-6、D-9
党的十八大把生态文明建设放在突出地位,在十九大报告中被提升为千年大计。河流水景观和防洪安全是水生态文明建设的重要内容之一。为解决北方河道多属季节性河流,枯水期流量较少甚至会出现断流问题,并且汛期可能遭遇较大洪水。各地开展了一系列的河道整治行动,修建了众多梯级拦水堰用以解决河道流量小、季节性强等问题,以此来达到营造河道生态景观的目的。梯级拦水堰在通常情况下能够实现拦蓄河水形成水面,但在发生洪水时,又
随着我国社会经济的发展,我国的城市化发展进程呈上升趋势,人们对于物质需求和精神追求不断的提高、改善,而城市中的建筑则向我们展示了我国经济发展的变化。正因如此,为了适应市场的变化发展,建筑工程前期阶段的工程造价的控制与管理成为当下建筑行业中必须解决的问题之一。因此,本文针对建筑工程前期阶段工程造价的控制与管理进行分析,并提出有效的措施。
目的:探讨HPV-DNA分型检测在宫颈癌癌前病变(CIN)早期筛查中的应用价值。方法:选取2017年5月—2020年5月于连云港市赣榆区人民医院收治的疑似CIN需进行病理检测的429例患者作为研究对象,对宫颈分泌物进行人乳头瘤病毒(HPV)DNA分型检测,以组织病理结果作为金标准,分析HPV-DNA分型检测中HPV16/18和高危型HPV在CIN早期筛查中的灵敏度、特异度、阳性预测值(PPV)、阴
磺胺类药物在动物源性食品中的残留对人类健康具有很大的威胁。本研究制备了磺胺类药物的两种广谱性识别元件,建立了两种竞争化学发光法对鸡肉中的磺胺类药物残留进行检测。首先,以磺胺苯为模板合成了一种分子印迹聚合物,并制备了一种辣根过氧化物酶标记物,在不透明酶标板上建立起一种直接竞争化学发光法,对鸡肉中的磺胺类药物进行检测。结果表明,该分子印迹聚合物可以识别15种磺胺类药物。所建立的化学发光法对这15种药物
党的十八大报告首次把“立德树人”明确为教育的根本任务,语境宏阔、高屋建瓴.要全面理解“立德树人”的深刻内涵,落实这一根本任务,就要不断叩问教育的本质,追问教育的价值,从“学科教学走向学科育人”.“自学·议论·引导”教学法的创始人、全国著名特级教师李庾南提出了“三学”的课堂操作规则,并将“学材再建构”置于“三学”之首,为我们初中数学学科育人提供了极好的范式.