【摘 要】
:
随着网络技术的不断发展,互联网己经越来越普及,各行各业都受到它的影响,网络用户数目不断攀升,这也使得互联网中所产生的数据朝着大和杂的方向发展,对这类型数据的分析处理
论文部分内容阅读
随着网络技术的不断发展,互联网己经越来越普及,各行各业都受到它的影响,网络用户数目不断攀升,这也使得互联网中所产生的数据朝着大和杂的方向发展,对这类型数据的分析处理和挖掘搜索已经成为互联网行业新的方向,同时这些都为分布式计算和云计算的发展提供了新的发展机遇。MapReduce是Google提出用于处理海量数据的分布式并行计算编程模型,基于该框架能够容易地编写应用程序,这些应用程序能够运行在由上千个机器组成的大集群上,具有自动并行处理作业、可靠性高、具有容错能力以及编程简单,能够并行地处理上TB级别的海量数据集等特点。在大多数运行的Hadoop系统中,对于频繁的磁盘I/O和跨机架和不同物理节点的大数据量的传输,中间数据的传输已经成为制约性能的的瓶颈。本文提出reduce任务放置算法,将目标任务调度到其相关map任务所在的物理节点或者同一机架内以此来获得中数据,提高本地化读取数据性能。由于key值是需要直到map任务结束之后才能被计算,本轮提出了一种基于水池抽样的方法来获取中间键值的分布情况。基于这个抽样的出来的数据分布比较好的接近原始数据的分布,基于这个中间键值的分布来执行分区策略,跨机架之间通信通过考虑它的距离和损耗将对应于map任务相关的reduce任务调度值其相近的物理节点来获取中间数据的本地性。论文基于 Hadoop 2.4.0 来实现 CORP(Correlation-oriented reduce placement)算法并且通过sort,grep,join这三种作业类型来对其性能进行评估,实验的结果也显示该算法在对其数据本地性和reduce负载有了较大的改善,但是由于前期的抽样带来的额外的负担使得论文中CORP算法对于执行时间方面的优化不是特别的大。本论文不仅在Hadoop的集群环境中基于数据倾斜实现了任务的放置的研究,并且将该方法至于云环境中通过虚拟机来实现任务的放置。任务虚机启动的位置越是靠近存储节点,获得的本地化数据就越多。基于现有的模型和工作提出了虚拟机启发式迁移HM(Heuristic Migration)策略,实验中与随机模式的迁移和不迁移策略相比HM有较大的优化,实验显示机架内的流量交换越小,数据的本地化程度就越大,在执行时间的优化就越好。
其他文献
目的:儿童注意缺陷过动症(Attention Deficit Hyperactity Disorder)简称 ADHD,是儿童在生长时期常见的心理行为问题及精神发育障碍疾病。本文通过对多伦多多动症儿童进行中
随着我国对文化产业发展的日益重视和《关于推动文化文物单位文创开发的若干意见》的出台,各文物单位积极响应并且迅速投资发展文创产品的开发工作。图书馆参与文创发展是我国文化产业转型的重要举措,《湘潭县志》作为图书馆藏资源,是文创产业的提供者,但是由于缺乏文创产品开发经验,其文创发展、保护与利用存在各种障碍。为促进馆藏资源文创保护与利用工作更好地发展,本文基于《湘潭县志》保护与利用的SWOT分析法,将馆藏
背景:偏头痛作为一种常见的慢性神经系统疾病,其特征表现为疼痛剧烈,双侧反复发作,搏动明显,常以偏侧头部为主[1]。流行病学调查资料显示目前我国偏头痛年患病率为9.3%[2]。而目前国内外对偏头痛的研究热点主要在偏头痛的发病机制及药物治疗研究。磁共振功能成像(fMRI)是目前已广泛应用于脑功能的研究,成像是把原子核在磁场内共振所产生信号经重建成像的一种影像技术,同时无辐射等副作用[3]。基于fMRI
随着我国科技的不断发展,国际化程度日益加深,越来越多的科技企业开始开拓国际市场。在对外市场的开拓过程中,产品说明书的汉英翻译起到重要作用,优秀的英文说明书能更快更高效地传递信息和推广产品,指导用户操作、使用和维护产品,同时提高产品的国际竞争力。笔者曾于国祥公司进行为期10个月的翻译实习,翻译材料主要涉及产品质量控制相关内容。本实践报告以实习期间翻译的《TTK31-5.5DL型空调机组使用说明书》为
拐卖妇女、儿童罪是诸多国家重点打击的犯罪,因为现代法治文明无法容忍将人进行商品化、物质化的行为。在司法实践中,有一种特殊的行为尤其引人关注,那就是出卖亲生子女的行为。通过对出卖亲生子女行为的有效裁判文书进行整理分析,发现司法适用中对该行为的认定存在不同的处理结果。有的认为该行为构成拐卖妇女、儿童罪,有的认为构成遗弃罪。司法认定结果不同,主要原因是我国《刑法》并未对出卖亲生子女这一特殊行为进行明确规
图像变化检测是检测同一地理区域,不同时间段的两幅遥感图像的差异部分的过程。随着遥感技术应用的发展,图像变化检测被广泛应用在环境监测、农作物测量、城市研究、生态监测、自然灾害评估、战场目标打击效果评估和军事侦察等领域。由于大多数的遥感卫星图像获得的是光学遥感图像,但是这些图像很容易受到恶劣天气的影响,特别是云的干扰,云覆盖是导致光学遥感数据的缺乏的一个重要因素,严重影响了光学遥感图像的后续处理,比如
随着改革开放的深入,越来越多的国企走上了混合所有制改革的道路。2017年11月5日,国务院国有企业改革领导小组审议通过了第三批试点名单,已确定将31家中央企业和地方国有企业纳入第三批试点范围。国家发改委加速推进混合所有制改革,这既是为了提升国企的市场竞争力与效率,也是为了打破以往政企不分的局面。财务治理是公司治理的重要组成部分,如何通过混合所有制改革,优化国企的财务治理,这具有十分重要的意义。格力
纵观历史,刑事被害人的角色和地位经历了三个时期,《汉谟拉比法典》的颁布赋予了被害人刑罚执行者的角色和地位,赋予了被害人及其亲属的报复权,并有权要求对方支付经济补偿,即所谓的“赎罪金”。在自然法盛行的时代,被害人将刑罚权让渡给国家,在刑事诉讼程序中逐渐沦为证据的提供者,刑事被害人的合法权益被逐渐的忽视,被害人被遗忘在诉讼程序之外。二战的巨大灾难和对犹太人的迫害,使得被遗忘在角落里的被害人再次进入到公
我国己逐渐发函成为全球最具潜力的银行卡产业大国。随着国内金融体系的不断完善和经济的高速发展,金融市场化程度日益增强,商业银行的信用卡产品和服务日趋多样化。作为商业银行零售与中间业务重要组成部分的信用卡,不仅是银行用于获取新客户的有力工具,而且其多样化、机动性的市场营销更能给信用卡发卡银行带来巨大的收益。因此,研究商业银行信用卡的营销问题具有重要的理论与实践意义。本文基于深度访谈法、问卷调查法和案例
随着社会经济结构转型发展,许多人出现入不敷出的经济现象,车贷房贷越来越高,工作就业压力越来越大,社会环境污染加重,导致越来越多的人患上精神疾病,遭受精神疾病折磨,他们迫切的需要得到有效治疗,渴望早日康复。传统的医疗康复手段已经不再适应当代精神疾病患者的康复需求,新型的“生物--心理--社会”模式应运而生,同时新模式也要求医务社会工作参与到患者康复治疗过程中去。人民对美好生活的向往和追求,国家和社会