云计算平台在搜索引擎中的关键技术研究

被引量 : 0次 | 上传用户:zjamoy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网的发展,新闻、博客、论坛、微博等各种站点不断涌现,网络所承载的数据量不断增长。使用搜索引擎查找信息已成为一种通用的方式。但随着数据量的不断增长,传统的集中式搜索引擎解决方案已经不能有效的提供快速有效的检索服务。本文针对海量数据情况下的数据环境,探讨了采用云计算平台处理数据、创建索引并提供分布式检索服务的关键技术。本文首先指出了使用云计算平台进行搜索引擎开发的必要性与可行性,之后对论文中涉及的Hadoop云计算平台、基于Lucene的搜索引擎、基于Java远程方法调用(Remote Method Invocation,简称RMI)的分布式系统以及基于Memcached的缓存系统进行了讨论。在此基础之上设计了一个由分布式索引模块、分布式搜索模块以及缓存模块构成的基于云计算平台的分布式搜索引擎。在分布式索引模块,数据预处理之后将以SequenceFile的形式存放在HDFS分布式文件系统之上,尔后采用MapReduce分布式数据处理模型按照索引分解与分块策略对其进行分布式索引构建。在分布式搜索模块,基于RMI和Lucene技术构建了一个“中心节点—搜索节点”模式的分布式搜索引擎框架。搜索节点采用Lucene对索引进行全文检索;中心节点负责接收用户的搜索请求并将其分发至搜索节点,待搜索节点完成搜索之后,中心节点再对搜索结果进行合并,最后发送给用户。为了避免在高并发条件下的搜索引擎负载过高引起的问题,本文采用Memcached对搜索结果进行缓存,有效的降低了搜索引擎的负荷。在以50个节点组建的云计算平台上的实验结果表明,该设计方案能高效的对数据进行索引,并可以提供高效准确的全文检索服务。
其他文献
西北是回族重要的聚居区,近代对西北回族来讲是一个非常重要的历史阶段。这时的社会最为动荡,回族人口的变化最为突出,回族聚居区的变化最为明显,甚至影响到今天西北边远山区
军旅小说因带有了浓烈的主流思想意识形态而在现当代文学中有了一席之地,在“十七年”的时候成为了当时文坛的主流作品;到了上世纪80年代,军旅小说又出现了第二次的繁荣,并引
钱惟演本是吴越国世子,后随父向宋王朝纳土称臣,身世发生巨大转变。满腹才学的钱惟演本一心想在新朝里大展身手,实现自己的人生价值,但特殊的身世导致其在朝廷里处处受到排挤
煤炭行业是我国能源主要产业之一,全球世界各国对环境的要求越来越高,使得供应链管理向新的方向发展,环保意识被逐步引进。国内外政府对如何能够有效的提高煤炭资源的利用效
风能资源作为可再生的清洁能源,被认为是最具有发展前景的新型能源之一。本论文在对历史资料进行均一化检验和订正的基础上,基于测风塔资料和WRF模式,深入开展江苏沿海、沿湖
金和是鸦片战争和太平天国时期著名的诗人,他的诗歌有着丰富的时代内容,真实地反映了当时的社会现状,其叙事诗的成就尤为突出,具有“诗史”的艺术价值。虽然目前学术界对其人
悲剧意识是一种理性认识,是对现实悲剧性事件的客观认识和主观把握。“寻根小说”它打破了伤痕、反思、改革文学仅仅从客观的政治话语角度出发,来反思十年“文革”对人们造成
幽门螺杆菌(Helicobacter pylori, H. pylori)是人类常见的致病菌之一,是一种可长期定植于人类胃粘膜的革兰氏阴性螺旋形微需氧菌,在全世界范围内感染率超过50%。已证实,H. p
多媒体影像是集摄影、电影、电视、动画、文字、声音、绘画、音乐等传统艺术形态为一身,充分发挥多媒体艺术的聚合性、互动性、非线性技术特质,以高密度静态影像的聚合和时空
报纸
高中阶段是学生学习生涯中的一个关键期,高中生的学习成绩不仅直接关系到其升学问题甚至会影响其未来的发展,所以如何提高高中生的学习成绩成为学生、教师、家长普遍关心的问