面向互联网的多型文件融合存储系统

来源 :浙江大学 | 被引量 : 0次 | 上传用户:loughtjiang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的发展,各种新兴的创新型应用不断涌现,爆炸式增长的不同类型的各种信息对数据存储提出新的要求。由于网络应用类型的丰富性,其所产生的文件类型和文件数量都远远超过了传统的通用文件系统所能支持的范围。为了应对不断发展的网络应用所提出的存储需求,面向互联网的存储系统需要具有如下几个特点:首先是要能够处理海量文件;其次要能够支持多种类型的文件的存储,如从几KB的文本文件到几GB的视频文件;然后要具有极高的性能,能够支持大量的并发访问。针对以上这些问题,本文设计和实现了一种面向互联网环境的,支持海量数据的,对多种类型文件提供融合存储的分布式文件系统——FDFS (Fusion Distributed File System)。它借鉴了已有的分布式文件系统的设计经验,打破了常规的分布式文件系统只能存储海量小文件或者只设计用于存储大数据集文件的壁垒,将海量的不同规模、不同类型的文件存储在同一个系统中,大大提高了物理空间的利用率、降低了服务器集群管理的复杂度、同时为全局范围内的负载均衡和存储空间分配提供了更加精确的支持。本文着重阐述了FDFS系统的体系架构设计以及系统设计中核心问题的实现策略。本系统采用了Master/Slave架构模式,使用中心节点——NameServer和MetaServer,分别管理系统的存储空间和目录空间,用户数据则分布在大量的存储节点DataServer上,并且通过FDFS客户端向用户提供访问系统的接口。FDFS中的物理空间以“块(Block)”为单位进行管理,系统会自动地将多个小文件合并到一个Block中,并且将大文件自动地拆分为多个Block。另外,FDFS还为用户提供了目录空间以支持大文件的管理。
其他文献
随着网络和信息技术的快速发展,大规模的文本处理得到持续研究和关注。大规模文本分类面对的是巨大的文本和类别数量,高维的特征空间对分类算法带来极高的计算复杂度和空间复
随着企业信息化水平的发展,各个领域都积累了大量的异构的数据,为了避免数据重复和资源浪费,整合系统中数据的需求也越来越迫切,数据交换技术也就应运而生了。本文将数据交换
随着EST序列数据的越来越多,来自于不同个体的大量冗余的EST将会是发掘SNP很好的资源。SNP作为第三代遗传标记,是人类可遗传变异中最常见的一种,占所有已知多态性的90%以上。
近年来,基于网-络编码的P2P流媒体直播系统成为了国内外P2P领域研究的热点。较传统P2P流媒体系统,与网络编码技术结合后具有传输协议简单高效、对高动态网络环境适应性强和系
纺织品的生产过程中总会产生瑕疵点,这些瑕疵点直接影响着织物质量的好坏,进而影响着产品的销售及出口等。所以验布环节是织物质量控制的一个重要过程。迄今,传统的验布工作
高速公路在促进社会和经济的发展中发挥着重要的作用。随着国民经济的快速发展,交通量迅速增长,公路路面出现了不同程度的损坏,这将直接影响行驶车辆的安全及速度。路面维护
目前,广泛应用的推荐系统是基于协同过滤的推荐系统,其原理是寻找与目标用户相似的用户,以这些相似用户的喜好为基础生成目标用户的喜好;其优点在于系统只依赖于用户对商品的
在设计领域中草图符号得到了广泛地应用,人们一般利用草图符号记录设计思想,再利用设计软件作进一步处理。为了实现设计软件中对草图输入方式的支持,手绘草图符号的识别研究
在信息化高速发展的今天,信息和网络系统的安全变得越来越重要,而随着网络入侵者水平的逐渐提高,入侵行为也在变得日益严重。入侵检测技术作为传统防御技术的补充,已经成为学
随着计算机应用技术的飞速发展,智能监控逐渐成为人们关注的问题之一。为了突破现有监控设备中监控视野范围局限性的制约,视频拼接技术已成为该领域的一个研究热点,但是由于