基于心跳超时机制的Hadoop实时容错技术

来源 :计算机应用 | 被引量 : 18次 | 上传用户:tianaiguo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对官方的Hadoop软件中提供的节点心跳超时容错机制对短作业并不合理,而且忽略了异构集群中各节点超期时间设置的公平性的问题,提出了公平心跳超时容错机制。首先根据每个节点的可靠性及计算性能构建节点故障误判损失模型,提出公平误判损失(FMJL)算法,使其同时满足长作业和短作业要求;接着,设计并实现了基于FMJL算法的公平超时机制。在实现了公平超时机制的Hadoop上运行大约345 s的短作业时,当出现Task Tracker节点故障时作业完成时间平均大约节省了44%,与自适应超时机制相比,作业完成时间
其他文献
在广州市机动车排气检测工作中,对在用汽车(指已上牌的汽车)在路检、抽检、复测和被举报冒黑烟车辆检测已经全面执行GB18585-2005和GB3847-2005国家新标准。文章对执行新标准实际工作中的技术问题和检测结果作了初步分析,并提出了相应的建议。
两个定理:Ⅰ)如y=f(x)是超越的,则其反函数(如存在)也是;Ⅱ)任何非常值周期函数是超越的,被证明了.借助于它们,建立起圆函数、指数函数及它们的反函数的超越性,并指出一些"奇异"的函数
针对防火墙规则集中规则间的相互关系难以把握,从而导致防火墙无法正确地过滤数据包的问题,提出了一种基于集合理论的规则间包含关系的解析方法。该方法在不考虑规则动作的情况下,基于集合理论的包含关系来解析和分类规则之间的关系,简化了分析规则间相互关系的过程。并且使用高效的函数式编程语言Haskell实现了所提出的方法,整体代码简洁、易于维护和扩展。实验结果表明,对于中小规模的防火墙规则集,能够快速而有效地