欢迎来到冰豆网! | 帮助中心 分享价值,成长自我!
冰豆网
全部分类
  • IT计算机>
  • 经管营销>
  • 医药卫生>
  • 自然科学>
  • 农林牧渔>
  • 人文社科>
  • 工程科技>
  • PPT模板>
  • 求职职场>
  • 解决方案>
  • 总结汇报>
  • 党团工作>
  • ImageVerifierCode 换一换
    首页 冰豆网 > 资源分类 > DOCX文档下载
    分享到微信 分享到微博 分享到QQ空间

    分布式文件系统MFSmoosefs实现存储共享.docx

    • 资源ID:26021088       资源大小:451.30KB        全文页数:23页
    • 资源格式: DOCX        下载积分:3金币
    快捷下载 游客一键下载
    账号登录下载
    微信登录下载
    三方登录下载: 微信开放平台登录 QQ登录
    二维码
    微信扫一扫登录
    下载资源需要3金币
    邮箱/手机:
    温馨提示:
    快捷下载时,用户名和密码都是您填写的邮箱或者手机号,方便查询和重复下载(系统自动生成)。
    如填写123,账号就是123,密码也是123。
    支付方式: 支付宝    微信支付   
    验证码:   换一换

    加入VIP,免费下载
     
    账号:
    密码:
    验证码:   换一换
      忘记密码?
        
    友情提示
    2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
    3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
    4、本站资源下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
    5、试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓。

    分布式文件系统MFSmoosefs实现存储共享.docx

    1、分布式文件系统MFSmoosefs实现存储共享分布式文件系统MFS(moosefs)实现存储共享On 20012年11月12日, in 云计算, by jluzc 由于用户数量的不断攀升,我对访问量大的应用实现了可扩展、高可靠的集群部署(即lvs+keepalived的方式),但仍然有用户反馈访问慢的问题。通过排查个服务器的情况,发现问题的根源在于共享存储服务器NFS。在我这个网络环境里,N个服务器通过nfs方式共享一个服务器的存储空间,使得NFS服务器不堪重负。察看系统日志,全是nfs服务超时之类的报错。一般情况下,当nfs客户端数目较小的时候,NFS性能不会出现问题;一旦NFS服务器数目过

    2、多,并且是那种读写都比较频繁的操作,所得到的结果就不是我们所期待的。下面是某个集群使用nfs共享的示意图:这种架构除了性能问题而外,还存在单点故障,一旦这个NFS服务器发生故障,所有靠共享提供数据的应用就不再可用,尽管用rsync方式同步数据到另外一个服务器上做nfs服务的备份,但这对提高整个系统的性能毫无帮助。基于这样一种需求,我们需要对nfs服务器进行优化或采取别的解决方案,然而优化并不能对应对日益增多的客户端的性能要求,因此唯一的选择只能是采取别的解决方案了;通过调研,分布式文件系统是一个比较合适的选择。采用分布式文件系统后,服务器之间的数据访问不再是一对多的关系(1个NFS服务器,多个

    3、NFS客户端),而是多对多的关系,这样一来,性能大幅提升毫无问题。到目前为止,有数十种以上的分布式文件系统解决方案可供选择,如lustre,hadoop,Pnfs等等。我尝试了PVFS,hadoop,moosefs这三种应用,参看了lustre、KFS等诸多技术实施方法,最后我选择了moosefs(以下简称MFS)这种分布式文件系统来作为我的共享存储服务器。为什么要选它呢?我来说说我的一些看法:1、 实施起来简单。MFS的安装、部署、配置相对于其他几种工具来说,要简单和容易得多。看看lustre 700多页的pdf文档,让人头昏吧。2、 不停服务扩容。MFS框架做好后,随时增加服务器扩充容量;

    4、扩充和减少容量皆不会影响现有的服务。注:hadoop也实现了这个功能。3、 恢复服务容易。除了MFS本身具备高可用特性外,手动恢复服务也是非常快捷的,原因参照第1条。4、 我在实验过程中得到作者的帮助,这让我很是感激。MFS特性(根据官方网站翻译) 高可靠性(数据能被分成几个副本存储在不同的计算机里) 通过增加计算机或增加新的硬盘动态扩充可用磁盘空间 可以设置删除文件的空间回收时间rootmysql-bk serydir# mfsgettrashtime bind-9.4.0.tar.gz bind-9.4.0.tar.gz: 600 文件被删除10分钟后(600秒),才真正删除文件,回收磁盘

    5、空间。 为文件创建快照MFS文件系统的组成1、 元数据服务器。在整个体系中负责管理管理文件系统,目前MFS只支持一个元数据服务器master,这是一个单点故障,需要一个性能稳定的服务器来充当。希望今后MFS能支持多个master服务器,进一步提高系统的可靠性。2、 数据存储服务器chunkserver。真正存储用户数据的服务器。存储文件时,首先把文件分成块,然后这些块在数据服务器chunkserver之间复制(复制份数可以手工指定,建议设置副本数为3)。数据服务器可以是多个,并且数量越多,可使用的“磁盘空间”越大,可靠性也越高。3、 客户端。使用MFS文件系统来存储和访问的主机称为MFS的客户

    6、端,成功挂接MFS文件系统以后,就可以像以前使用NFS一样共享这个虚拟性的存储了。元数据服务器安装和配置元数据服务器可以是linux,也可以是unix,你可以根据自己的使用习惯选择操作系统,在我的环境里,我是用freebsd做为MFS元数据的运行平台。GNU源码,在各种类unix平台的安装都基本一致。(一) 安装元数据服务1、下载GNU源码 wget 2、解包 tar zxvf mfs-1.5.12.tar.gz3、切换目录 cd mfs-1.5.124、创建用户 useradd mfs s /sbin/nologin5、配置 ./configure prefix=/usr/local/mfs

    7、 with-default-user=mfs with-default-group=mfs6、编译安装 make ; make install(二) 配置元数据服务元数据服务器的配置文件是mfsmaster.cfg,我在安装MFS时指定了前缀,因此这个文件的位置在/usr/local/mfs/etc/mfsmaster.cfg.我们打开这个配置文件,看看都有哪些内容: # WORKING_USER = mfs # WORKING_GROUP = mfs# LOCK_FILE = /var/run/mfs/mfsmaster.pid# DATA_PATH = /usr/local/mfs/var

    8、/mfs # SYSLOG_IDENT = mfsmaster # BACK_LOGS = 50 # REPLICATIONS_DELAY_INIT = 300 # REPLICATIONS_DELAY_DISCONNECT = 3600 # MATOCS_LISTEN_HOST = * # MATOCS_LISTEN_PORT = 9420 # MATOCU_LISTEN_HOST = * # MATOCU_LISTEN_PORT = 9421 # CHUNKS_LOOP_TIME = 300 # CHUNKS_DEL_LIMIT = 100 # CHUNKS_REP_LIMIT = 15尽

    9、管每行都被注释掉了,但它们却是配置文件的默认值,要改变这些值,需要取消注释,然后明确指定其取值。接下来说明一下其中一些项目的含义。 LOCK_FILE = /var/run/mfs/mfsmaster.pid 文件锁所在的位置,它的功能是避免启动多次启动同一个守护进程。由于系统中本来不存在目录 /var/run/mfs,因此需要手动创建 mkdir /var/run/mfs,然后更改其属主 chown R mfs:mfs /var/run/mfs 这样MFS 服务就能对这个目录有创建/写入 mfsmaster.pid 文件的权限了。 DATA_PATH = /usr/local/mfs/var

    10、/mfs 数据存放路径,只元数据的存放路径。那么这些数据都包括哪些呢?进目录看看,大致分3种类型的文件:这些文件也同样要存储在其他数据存储服务器的相关目录。 MATOCS_LISTEN_PORT = 9420 MATOCSmaster to chunkserver,即元数据服务器使用9420这个监听端口来接受数据存储服务器chunkserver端的连接。 MATOCU_LISTEN_PORT = 9421 元数据服务器在9421端口监听,用以接受客户端对MFS进行远程挂接(客户端以mfsmount挂接MFS) 其他部分看字面意思都不难理解。还有几个与时间有关的数值,其单位是秒。这个配置文件,不

    11、必做修改就能工作了。(三) 元数据服务器master启动元数据服务器可以单独启动,即使没有任何数据存储服务器(chunkserver)也是能正常工作的,因此当我们安装配置完MFS后,即可启动它。执行命令 /usr/local/mfs/sbin/mfsmaster start ,如果没有意外,元数据库服务器就应该作为一个守护进程运行起来。现在我们可以通过3个方面来检查一下MFS master的运行状况:1、 检查进程2、 检查网络状态3、 检查系统日志MFS的日志会直接写入系统日志。当我们增加数据存储服务器(chunkserver)或数据存储服务器(chunkserver)处故障时,都能在系统日

    12、志找到这些记录。注意,这个日志跟元数据变化日志不是一回事情。(四)、关闭元数据服务器关闭元数据服务器,务必使用 /usr/local/mfs/sbin/mfsmaster s 这种方式,如果直接使用kill杀死进程,将导致下次启动时出现找不到相关文件,而不能正常启动服务器。这个一定要谨慎。当然,如果发生了这个事情,还是可以通过 mfsmetastore 来恢复的。数据存储chunkserver服务器的安装配置数据存储服务器chunkserver也是可以运行在各种类unix平台的,因此不再多说。一个MFS环境到底能集群多少服务器,作者的说法是上PB容量,个人建议,最好3台以上;并且专门用来做存储

    13、,不要把它跟master搞到一个机器(理论上没问题,实现也是可以的,但这不是一个好策略)。因为每个数据存储服务器的安装和配置都是相同的,所以只需按照一个服务器的操作就可以了。(一)、安装数据存储服务器 chunkserver1、下载GNU源码 wget 2、解包 tar zxvf mfs-1.5.12.tar.gz3、切换目录 cd mfs-1.5.124、创建用户 useradd mfs s /sbin/nologin5、配置 ./configure prefix=/usr/local/mfs with-default-user=mfs with-default-group=mfs6、编译安

    14、装 make ; make install(二)配置数据存储服务器chunkserver数据存储服务器有2个配置服务器需要修改,一个是主配置文件 mfschunkserver.cfg ,另一个配置文件是 mfshdd.cfg。每个服务器用来分配给 MFS使用的空间最好是一个单独的硬盘或者一个raid卷,最低要求是一个分区。作者举的例子是创建一个大文件,然后挂接在本地,这不好,只能用来做实验了。1、修改配置文件 /usr/local/mfs/etc/mfschunkserver.cfg。下面是修改了的配置文件:#WORKING_USER = mfs #WORKING_GROUP = mfs# D

    15、ATA_PATH = /usr/local/mfs/var/mfs# LOCK_FILE = /var/run/mfs/mfschunkserver.pid# SYSLOG_IDENT = mfschunkserver# BACK_LOGS = 50# MASTER_RECONNECTION_DELAY = 30MASTER_HOST = 192.168.0.19MASTER_PORT = 9420# MASTER_TIMEOUT = 60# CSSERV_LISTEN_HOST = *# CSSERV_LISTEN_PORT = 9422# CSSERV_TIMEOUT = 60# CSTO

    16、CS_TIMEOUT = 60# HDD_CONF_FILENAME = /usr/local/mfs/etc/mfshdd.cfg这个配置文件里,没有注释符号“#”就是被修改过的项了,接下来是里面某些项的含义说明: MASTER_HOST = 192.168.0.19 元数据服务器的名称或地址,可以是主机名,也可以是ip地址,只要数据存储服务器能访问到元数据服务器就行。 LOCK_FILE = /var/run/mfs/mfschunkserver.pid 与元数据服务器master的处理完全相同. CSSERV_LISTEN_PORT = 9422 CSSERVchunkserver,这个

    17、监听端口用于与其它数据存储服务器间的连接,通常是数据复制。 HDD_CONF_FILENAME = /usr/local/mfs/etc/mfshdd.cfg 分配给MFS使用的磁盘空间配置文件的位置。2、修改配置文件/usr/local/mfs/etc/mfshdd.cfg。在我的服务器上,只有一个1T的SATA硬盘,分了一个800G容量的分区来做为MFS存储服务的组成部分。为了使mfs拥有写目录的权限,需要修改目录的属主。我的服务器的分区挂接点是 /data , 用 chown R mfs:mfs /data 把属主改变。因为我的每个服务器只需贡献一个分区做为MFS,因此配置文件只需要如下

    18、一行内容就可以了:/data这个文件默认情况下有好几行,我们最好把它删掉,因为按常规情况用注释符号“#”好像不起作用。(三)启动数据存储服务器chunkserver在数据存储服务器chunkserver执行命令 /usr/local/mfs/sbin/mfschunkserver start 启动数据存储守护进程.通过以下几种方式来检查chunkserver的运行状态.1、 查看进程 ps aux | grep mfschunkserver2、 查看网络状态,正常情况下应该看见9422处于监听状态,如果有其他数据存储服务器chunkserver在同一个元数据服务器master管理下运行的话,应

    19、该能看见其他chunkserver跟本机的连接情况:3、 查看元数据服务器的系统日志,可以看见新增的数据存储服务器chunkserver被加入。tail -f /var/log/messagesMar 27 14:28:00 mfs-ctrl mfsmaster29647: server 3 (192.168.0.71): usedspace: 65827913728 (61 GB), totalspace: 879283101696 (818 GB), usage: 7.49%(四) 关闭数据存储服务器跟元数据服务器master相似,执行命令 /usr/local/mfs/sbin/mfsc

    20、hunkserver s , chunkserver服务就停下来了。为了使系统重启过程能自动启动chunkserver服务,可以通过在/etc/rc.local文件追加行 /usr/local/mfs/sbin/mfschunkserver start 来达到这个目的(master的自动重启处理也可同样处理)。MFS客户端的安装及配置我的生产环境,只有centos和freebsd两种环境,因此下面的描述,只有centos及freebsd挂接MFS文件系统的情形,其他类型的unix系统,待日后尝试。对比前面的操作过程,客户端挂接后使用MFS集群文件系统才是最费时的事情。一、centos作为MFS

    21、的客户端。(一) 安装MFS客户端Mfsmount需要依赖FUSE,因此需要先安装好fuse,这里我选用fuse-2.7.4.tar.gz。1、解包 tar zxvf fuse-2.7.4.tar.gz2、切换目录 cd fuse-2.7.4.3、配置 ./configure4、编译安装 make;make install如果系统已经安装了fuse,则跳过这个步骤。安装MFS客户端程序1、修改环境变量文件/etc/profile ,追加下面的行,然后再执行命令source /etc/profile使修改生效。export PKG_CONFIG_PATH=/usr/local/lib/pkgco

    22、nfig:$PKG_CONFIG_PATH如果不执行这个操作,在后面安装MFS的过程中,执行命令./configure enable-mfsmount时可能出现”checking for FUSE no configure: error: mfsmount build was forced, but fuse development package is not installed”这样的错误,而不能正确安装MFS客户端程序。2、解包 tar zxvf mfs-1.5.12.tar.gz3、切换目录 cd mfs-1.5.124、创建用户 useradd mfs s /sbin/nologin

    23、5、配置 ./configure prefix=/usr/local/mfs with-default-user=mfs with-default-group=mfs enable-mfsmount6、编译安装 make ; make install检查MFS客户端安装的结果。通过查看目录/usr/local/mfs/bin目录的文件,应该发现如下文件:(二)挂接和使用MFS文件系统1、创建挂接点 mkdir /mnt/mfs2、挂接MFS /usr/local/mfs/bin/mfsmount h 192.168.0.19 .注意,所有的MFS都是挂接同一个元数据服务器master,而不是其

    24、他数据存储服务器chunkserver !3、通过查看磁盘使用情况来检查是否被挂接成功。rootmysql-bk # df -h Filesystem Size Used Avail Use% Mounted on/dev/hda1 19G 2.7G 16G 15% /dev/hda7 51G 180M 48G 1% /backup/dev/hdc1 145G 6.4G 131G 5% /data/dev/hda5 19G 173M 18G 1% /home/dev/hda3 24G 217M 23G 1% /var/dev/hda2 29G 1.6G 26G 6% /usrtmpfs 1.7

    25、G 0 1.7G 0% /dev/shmMFS 2.5T 256G 2.2T 11% /mnt/mfs4、 进入目录/mnt/mfs,上传一个文件,看是否正常?接着在手动用touch 创建一个文件,然后再删除它们,看是否可以正常操作。5、 设置文件副本数量,建议以3份为佳。设置副本数目mfsrsetgoal 3 /mnt/mfs查看设置是否如我所愿mfsgetgoal /mnt/mfs/serydir/bind-9.4.0.tar.gz/mnt/mfs/serydir/bind-9.4.0.tar.gz: 36、设置删除文件后空间回收时间。默认的回收时间为7天(604800秒)修改回收时间为1

    26、0分钟 mfsrsettrashtime 600 /mnt/mfs6、 把挂接命令追加到文件/etc/rc.local,可实现开机自动启动挂接MFS.二、freebsd作为MFS客户端Freebsd安装和挂接MFS集群文件系统,比centos操作起来要复杂一些.mfsmount需要依赖fuse,并且需要在内核中加载fusefs模块。(一)安装fuse1、解包 tar zxvf fuse-2.7.4.tar.gz2、切换目录 cd fuse-2.7.4.3、配置 ./configure4、编译安装 make;make install如果系统已经安装了fuse,则跳过这个步骤。(二) 安装内核模块

    27、fusefs-kmod1、执行系统命令sysinstall2、光标选定Configure,进入下一步。3、选择“Packages”,进入下一步。4、选择“FTP”作为安装源,进入下一步。5、选择“kld”后,回车执行默认动作“OK”,进入下一步选软件包。6、选择“fusefs-kmod-0.3.9.p1_2”,按OK返回到第“4”步出现的那个操作界面。这时我们用“Tab”键选中底部右边的“Install”,完成安装后,会出现一个安装成功的提示,然后瞬间消失。 加载fusefs模块 kldload /usr/local/modules/fuse.ko .如果加载不成功,请检查是否存在模块文件fu

    28、se.ko. 检查fusefs模块是否被加载到内核:如果没有类似上面的输出,就表明fusefs模块没有加载成功。(三)安装包 pkg-config:1、cd /usr/ports/devel/pkg-config2、make install clean(四)安装MFS客户端1、解包 tar zxvf mfs-1.5.12.tar.gz2、切换目录 cd mfs-1.5.123、创建用户 pw useradd mfs s /sbin/nologin4、配置 ./configure prefix=/usr/local/mfs with-default-user=mfs with-default-g

    29、roup=mfs enable-mfsmount5、编译安装 make ; make install检查MFS客户端安装的结果。通过查看目录/usr/local/mfs/bin目录的文件,应该发现如下文件:(五)挂接和使用MFS文件系统1、创建挂接点 mkdir /mnt/mfs2、挂接MFS /usr/local/mfs/bin/mfsmount h 192.168.0.19 .注意,所有的MFS都是挂接同一个元数据服务器master,而不是其他数据存储服务器chunkserver !3、通过查看磁盘使用情况来检查是否被挂接成功。rootmysql-bk # df -h Filesystem Size Used Avail Capacity Mounted on/dev/ad4s1a 26G 570M 24G 2% /devfs 1.0K 1.0K 0B 100% /dev/dev/ad4s1g 356G 157G 170G 48% /data/dev/ad4s1f 17G 215M 15G 1% /


    注意事项

    本文(分布式文件系统MFSmoosefs实现存储共享.docx)为本站会员主动上传,冰豆网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知冰豆网(点击联系客服),我们立即给予删除!

    温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。




    关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服 - 联系我们

    copyright@ 2008-2022 冰点文档网站版权所有

    经营许可证编号:鄂ICP备2022015515号-1

    收起
    展开