gfsgoogle文件系统论文翻译Word格式文档下载.docx
- 文档编号:13161050
- 上传时间:2022-10-07
- 格式:DOCX
- 页数:28
- 大小:52.63KB
gfsgoogle文件系统论文翻译Word格式文档下载.docx
《gfsgoogle文件系统论文翻译Word格式文档下载.docx》由会员分享,可在线阅读,更多相关《gfsgoogle文件系统论文翻译Word格式文档下载.docx(28页珍藏版)》请在冰豆网上搜索。
3–分布式文件系统
普通条目
设计,可靠性,性能,测量
Design,reliability,performance,measurement
关键词
容错,扩展性,数据存储,集群数据存储
1介绍
我们已经为Google迅速增长的数据处理需要而设计和实现了Google
System(GFS)。
GFS和上一个分布式文件系统有着很多相同的设计目标,比如性能,扩展性,可靠性,以及可用性。
不过,他的设计是基于我们应用的工作量和技术环境驱动的,包括现在和预期的,都有部分和上一个版本的约定有点不同。
首先,节点失效将被看成是正常情况,而不再视为异常情况。
整个文件系统包含了几百个或者几千个由廉价的普通机器组成的存储机器,而且这些机器是被与之匹配数量的客户端机器访问。
这些节点的质量和数量都实际上都确定了在任意给定时间上,一定有一些会处于失效状态,并且某一些并不会从当前失效中恢复回来。
这有可能由于程序的bug,操作系统的bug,人工操作的失误,以及硬盘坏掉,内存,网络,插板的损坏,电源的坏掉等等。
因此,持续监视,错误检测,容错处理,自动恢复必须集成到这个文件系统的设计中来。
其次,按照传统标准来看,文件都是非常巨大的。
数个GB的文件是常事。
每一个文件都包含了很多应用程序对象,比如web文档等等。
当我们通常操作迅速增长的,由很多TB组成的,包含数十亿对象的数据集,我们可不希望管理数十亿个KB大小的文件,即使文件系统能支持也不希望。
所以,设计约定和设计参数比如I/O操作以及blocksize(块大小),都需要重新审查。
第三,大部分文件都是只会在文件尾新增加数据,而少见修改已有数据的。
对一个文件的随机写操作在实际上几乎是不存在的。
当一旦写完,文件就是只读的,并且一般都是顺序读取得。
多种数据都是有这样的特性的。
有些数据可能组成很大的数据仓库,并且数据分析程序从头扫描到尾。
有些可能是运行应用而不断的产生的数据流。
有些是归档的数据。
有些是一个机器为另一个机器产生的中间结果,另一个机器及时或者随后处理这些中间结果。
对于这些巨型文件的访问模式来说,增加模式是最重要的,所以我们首要优化性能的以及原子操作保证的就是它,而在客户端cache数据块没有什么价值。
第四,与应用一起设计的的文件系统API对于增加整个系统的弹性适用性有很大的好处。
例如我们不用部署复杂的应用系统就可以把GFS应用到大量的简单文件系统基础上。
我们也引入了原子的增加操作,这样可以让多个客户端同时操作一个文件,而不需要他们之间有额外的同步操作。
这些在本论文的后边章节有描述。
多个GFS集群现在是作为不同应用目的部署的。
最大的一个有超过1000个存储节点,超过300TB的硬盘存储,并且负担了持续沉重的上百个在不同机器上的客户端的访问。
2设计概览
2.1约定
在为我们的需要设计文件系统得时候,我们需要建立的事先约定同时具有挑战和机遇。
我们早先提到的关于观测到的关键要点,现在详细用约定来说明。
?
系统是建立在大量廉价的普通计算机上,这些计算机经常故障。
必须对这些计算机持续进行检测,并且在系统的基础上进行:
检查,容错,以及从故障中进行恢复。
系统存储了大量的超大文件。
我们与其有好几百万个文件,每一个超过100MB。
数GB的文件经常出现并且应当对大文件进行有效的管理。
同时必须支持小型文件,但是我们不必为小型文件进行特别的优化。
一般的工作都是由两类读取组成:
大的流式读取和小规模的随机读取。
在大的流式读取中,每个读操作通常要读取几百k的数据,每次读取1M或者以上的数据也很常见。
对于同一个客户端来说,往往会发起连续的读取操作顺序读取一个文件。
小规模的随机读取通常在文件的不同位置,读取几k数据。
对于性能有过特别考虑的应用通常会作批处理并且对他们读取的内容进行排序,这样可以使得他们的读取始终是单向顺序读取,而不需要往回读取数据。
通常基于GFS的操作都有很多超大的,顺序写入的文件操作。
通常写入操作的数据量和杜如的数据量相当。
一旦完成写入,文件就很少会更改。
对于文件的随机小规模写入是要被支持的,但是不需要为此作特别的优化。
系统必须非常有效的,明确细节的对多客户端并行添加同一个文件进行支持。
我们的文件经常使用生产者/消费者队列模式,或者作为多路合并模式进行操作。
好几百个运行在不同机器上的生产者,将会并行增加一个文件。
其本质就是最小的原子操作的定义。
读取操作可能接着生产者操作进行,消费者会同时读取这个文件。
高性能的稳定带宽的网络要比低延时更加重要。
我们的目标应用程序一般会大量操作处理比较大块的数据,并且很少有应用要求某个读取或者写入要有一个很短的响应时间。
2.2接口
GFS提供了常见的文件系统的接口,虽然他没有实现一些标准的API比如POSIX。
文件是通过pathname来通过目录进行分层管理的。
我们支持的一些常见操作:
create,delete,open,close,read,write等文件操作。
另外,GFS有snapshot,recordappend等操作。
snapshort创建一个文件或者一个目录树的快照,这个快照的耗费比较低。
recordappend允许很多个客户端同时对一个文件增加数据,同时保证每一个客户端的添加操作的原子操作性。
这个对于多路合并操作和多个客户端同时操作的生产者/消费者队列的实现非常有用,它不用额外的加锁处理。
这种文件对于构造大型分布式应用来说,是不可或缺的。
snapshot和recordappend在后边的3.4和3.3节有单独讲述。
2.3架构
GFS集群由一个单个的master和好多个chunkserver(块服务器)组成,GFS集群会有很多客户端client访问(图1)。
每一个节点都是一个普通的Linux计算机,运行的是一个用户级别(user-level)的服务器进程。
只要机器资源允许,并且允许不稳定的应用代码导致的低可靠性,我们就可以运行chunkserver和client可以运行在同一个机器上。
在GFS下,每一个文件都拆成固定大小的chunk(块)。
每一个块都由master根据块创建的时间产生一个全局唯一的以后不会改变的64位的chunkhandle标志。
chunkservers在本地磁盘上用Linux文件系统保存这些块,并且根据chunkhandle和字节区间,通过LInux文件系统读写这些块的数据。
出于可靠性的考虑,每一个块都会在不同的chunkserver上保存备份。
缺省情况下,我们保存3个备份,不过用户对于不同的文件namespace区域,指定不同的复制级别。
master负责管理所有的文件系统的元数据。
包括namespace,访问控制信息,文件到chunk的映射关系,当前chunk的位置等等信息。
master也同样控制系统级别的活动,比如chunk的分配管理,孤点chunk的垃圾回收机制,chunkserver之间的chunk镜像管理。
master和这些chunkserver之间会有定期的心跳线进行通讯,并且心跳线传递信息和chunckserver的状态。
连接到各个应用系统的GFS客户端代码包含了文件系统的API,并且会和master和chunkserver进行通讯处理,代表应用程序进行读写数据的操作。
客户端和master进行元数据的操作,但是所有的数据相关的通讯是直接和chunkserver进行的。
我们并没有提供POSIXAPI并且不需要和LInux的vnode层相关。
客户端或者chunkserver都不会cache文件数据。
客户端cache机制没啥用处,这是因为大部分的应用都是流式访问超大文件或者操作的数据集太大而不能被chache。
不设计cache系统使得客户端以及整个系统都大大简化了(少了cache的同步机制)(不过客户端cache元数据)。
chunkserver不需要cache文件数据,因为chunks就像本地文件一样的被保存,所以LInux的buffercache已经把常用的数据cache到了内存里。
2.4单个master
引入一个单个master的设计可以大大简化我们的设计,并且也让master能够基于全局的角度来管理chunk的存放和作出复制决定。
不过,我们必须尽量减少master的读和写操作,以避免它成为瓶颈。
客户端永远不会通过master来做文件的数据读写。
客户端只是问master它应当访问那一个chunkserver来访问数据。
客户端在一定时间内cache这个信息,并且在后续的操作中都直接和chunkserver进行操作。
这里我们简单介绍一下图1中的读取操作。
首先,客户端把应用要读取的文件名和偏移量,根据固定的chunk大小,转换成为文件的chunkindex。
然后向master发送这个包含了文件名和chunkindex的请求。
master返回相关的chunkhandle以及对应的位置。
客户端cache这些信息,把文件名和chunkindex作为cache的关键索引字。
于是这个客户端就像对应的位置的chunkserver发起请求,通常这个会是离这个客户端最近的一个。
请求给定了chunkhandle以及一个在这个chunk内需要读取得字节区间。
在这个chunk内,再次操作数据将不用再通过客户端-master的交互,除非这个客户端本身的cache信息过期了,或者这个文件重新打开了。
实际上,客户端通常都会在请求中附加向master询问多个chunk的信息,master于是接着会立刻给这个客户端回应这些chunk的信息。
这个附加信息是通过几个几乎没有任何代价的客户端-master的交互完成的。
2.5chunk块大小
chunk的大小是一个设计的关键参数。
我们选择这个大小为64M,远远大于典型的文件系统的block大小。
每一个chunk的实例(复制品)都是作为在chunkserver上的Linux文件格式存放的,并且只有当需要的情况下才会增长。
滞后分配空间的机制可以通过文件内部分段来避免空间浪费,对于这样大的chunksize来说,(内部分段fragment)这可能是一个最大的缺陷了。
选择一个很大的chunk大小提供了一些重要的好处。
首先,它减少了客户端和master的交互,因为在同一个chunk内的读写操作之需要客户端初始询问一次master关于chunk位置信息就可以了。
这个减少访问量对于我们的系统来说是很显著的,因为我们的应用大部分是顺序读写超大文件的。
即使是对小范围的随机读,客户端可以很容易cache一个好几个TB数据文件的所有的位置信息。
其次,由于是使用一个大的chunk,客户端可以在一个chunk上完成更多的操作,它可以通过维持一个到chunkserver的TCP长连接来减少网络
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- gfsgoogle 文件系统 论文 翻译