基于异构计算平台的MapReduce编程模型的研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:simetl1235
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
最近几年对大规模处理和更复杂科学计算的需求,高性能计算的研究有了很大的发展,出现了一系列并行计算架构,如Nvidia公司的统一设备计算架构(CUDA)、Intel公司的集成众核架构(MIC)、IBM公司的CELL架构。这些架构对应推出的加速器(Nvidia GPU, Intel Xeon Phi, IBM Cell),具有很高峰值性能,高能效,较低功耗。异构计算主要是指采用不同指令集架构和体系结构的计算处理单元组成系统的计算方式。由于对并行化的需求不断增长,在高性能领域,异构计算系统已越来越多地被采用。然而,充分挖掘异构计算系统的能力,往往需要对异构平台中各处理器架构的细节有很好的掌握,这对开发者来说,是一项非常沉重的工作。MapReduce是Google公司提出的一个大数据处理框架。MapReduce向用户提供自定义的Map和Reduce接口,开发者只需要针对特定的应用编写Map和Reduce函数,就可以编写并行分布式应用。自从Google提出MapReduce框架之后,开发者和研究人员开展了大量的研究工作。MapReduce作为大数据处理框架,广泛应用在数据挖掘、机器学习、生物信息学等领域。在异构系统上实现MapRedue编程模型,既能简化异构系统上程序开发,充分利用异构系统中各设备的计算能力,又能在大量领域得到应用,具有很强的应用价值,对异构系统的研究具有重要意义。在本文中,提出了一种基于异构计算平台的MapReduce编程模型HyMR。 HyMR能充分利用异构计算平台中所有计算设备的计算能力,如多核CPU,众核GPU和Xeon Phi协处理器。我们将HyMR实现为一个可以扩展的框架来处理所有计算设备上的通用操作,并使用可扩展的运行时系统来对设备有关的操作进行扩展。为了将我们的框架很好的映射到异构架构上,我们采用了两层设计的方案:高层设计实现了混合任务调度器,对不同设备间的计算任务进行分配调度;低层设计实现了HyMR适配器来作为底层MapReduce运行时系统的抽象,通过HyMR适配器针对特定设备扩展实现,来实现HyMR编程模型对异构计算平台的扩展。为了充分利用异构平台各设备的计算能力,我们采用了协同计算的方案和混合并行。同时提出了混合任务调度器、中间键值处理优化、数据传输优化等方案,来提高HyMR模型的性能。HyMR在使用几个常用MapReduce程序的大数据集上的测试发现,与目前CPU上最快的MapReduce程序Phoenix++相比,HyMR在异构计算平台上实现了高达18.7倍的加速,表现了较好的扩展性,并且能实现对大规模数据集的处理。
其他文献
学位
近年来高校办学规模不断扩大,学生数量急剧增加,面对庞大的信息量,如何提高资源的利用率,做到信息的规范管理、科学统计和快速查询,已成为学生信息管理乃至整个学校管理的重点。在
作为信息隐藏的重要分支,数字水印是一种有效的数字产品版权保护和数据安全维护技术。它是利用人类视觉的冗余,将标志信息嵌入到数字产品中,兼顾到水印的不可见性和鲁棒性,以
对象管理组织(OMG)提出了一种全新的软件开发模式—模型驱动架构(MDA)。模型在模型驱动的软件开发过程中起到主线的作用。MDA的开发方式为高效地实现系统集成和互操作、适应
随着移动通信网络的快速发展,新的多媒体增值业务对下一代核心业务平台NCSP(Next Generation Core Service Platform)的业务表现提出了更高的要求,如何有效地解决NCSP中媒体
为了给用户提供高效、优质的应用软件提供保证。随着BREW终端的不断增多扩展,编写高效、通用、易于扩展和优化维护的BREW应用对现代BREW应用开发者的有着重要的意义。本文通
新一代VoIP呼叫中心对坐席平台的分布式部署能力和快速开发能力提出了新的要求,本文提出并实现了一种基于软交换技术和H.323协议的、并且同时可以处理话务和应用业务的坐席设
随着信息产业的发展和计算机性能的日臻完善,条码识别技术应运而生并如火如荼的发展起来。而随着移动增值应用的逐渐普及、3G时代的即将来临,手机二维条形码已经逐渐走进人们
随着计算机网络技术的不断发展和互联网应用的普及,信息技术正在不断地改变我们传统的教育教学模式。2012年,大规模开放在线课程——慕课(Massive Open Online Course, MOOC)
恶意软件是未经授权安装到计算机上的软件,通常包括病毒、木马、僵尸网络、拒绝服务攻击DoS、密码窃取、Word或Excel宏病毒、引导区病毒、脚本病毒和其它间谍软件等。其严重危