高性能计算集群.docx
- 文档编号:2903367
- 上传时间:2022-11-16
- 格式:DOCX
- 页数:12
- 大小:146.44KB
高性能计算集群.docx
《高性能计算集群.docx》由会员分享,可在线阅读,更多相关《高性能计算集群.docx(12页珍藏版)》请在冰豆网上搜索。
高性能计算集群
高性能计算集群
1.1什么是高性能计算集群
简单的说,高性能计算(High-PerformaneeComputing)是计算机科学的一个分支,
它致力于开发超级计算机,研究并行算法和开发相关软件。
高性能集群主要用于处理复杂的计算问题,应用在需要大规模科学计算的环境中,如天气预报、石油勘探与油藏模拟、分子模拟、基因测序等。
高性能集群上运行的应用程序一般使用并行算法,把一个大的普通问题根据一定的规则分为许多小的子问题,在集群内的不同节点上进行计算,而这些小问题的处理结果,经
过处理可合并为原问题的最终结果。
由于这些小问题的计算一般是可以并行完成的,从而可以缩短问题的处理时间。
1.2分类
高性能计算的分类方法很多。
这里从并行任务间的关系角度来对高性能计算分
类。
1.2.1高吞吐计算
有一类高性能计算,可以把它分成若干可以并行的子任务,而且各个子任务彼此间没有什么关联。
因为这种类型应用的一个共同特征是在海量数据上搜索某些特定模式,所以把这类计算称为高吞吐计算。
所谓的Internet计算都属于这一类。
按照Flynn的分类,高吞吐计算属于SIMD(SingleInstruction/MultipleData,单指令流-多数据流)的范畴。
1.2.2分布计算
另一类计算刚好和高吞吐计算相反,它们虽然可以给分成若干并行的子任务,但是子任务间联系很紧密,需要大量的数据交换。
按照Flynn的分类,分布式的高
性能计算属于MIMD(MultipleInstruction/MultipleData,多指令流-多数据流)的范畴。
1.3高性能计算集群系统的特点
可以采用现成的通用硬件设备或特殊应用的硬件设备,研制周期短;
可实现单一系统映像,即操作控制、IP登录点、文件结构、存储空间、I/O空间、作业管理系统等等的
单一化;
高性能(因为CPU处理能力与磁盘均衡分布,用高速网络连接后具有并行吞吐能力);
高可用性,本身互为冗余节点,能够为用户提供不间断的服务,由于系统中包括了多个结点,当一个结
点出现故障的时候,整个系统仍然能够继续为用户提供服务;
高可扩展性,在集群系统中可以动态地加入新的服务器和删除需要淘汰的服务
器,从而能够最大限度地
扩展系统以满足不断增长的应用的需要;
安全性,天然的防火墙;
资源可充分利用,集群系统的每个结点都是相对独立的机器,当这些机器不提供服务或者不需要使用的
时候,仍然能够被充分利用。
而大型主机上更新下来的配件就难以被重新利用了。
具有极高的性能价格比,和传统的大型主机相比,具有很大的价格优势;
1.4Linux高性能集群系统
当论及Linux高性能集群时,许多人的第一反映就是Beowulf。
起初,Beowulf只是一个著名的科学计算集群系统。
以后的很多集群都采用Beowulf类似的架
构,所以,实际上,现在Beowulf已经成为一类广为接受的高性能集群的类型。
尽管名称各异,很多集群系统都是Beowulf集群的衍生物。
当然也存在有别于Beowulf的集群系统,COW和Mosix就是另两类著名的集群系统。
1.4.1Beowulf集群
简单的说,Beowulf是一种能够将多台计算机用于并行计算的体系结构。
通常Beowulf系统由通过以太网或其他网络连接的多个计算节点和管理节点构成。
管理节点控制整个集群系统,同时为计算节点提供文件服务和对外的网络连接。
它使用的是常见的硬件设备,象普通PC、以太网卡和集线器。
它很少使用特别定制的硬件和特殊的设备。
Beowulf集群的软件也是随处可见的,象Linux、PVM和MPI。
1.4.2COW集群
象Beowulf一样,COW(ClusterOfWorkstation)也是由最常见的硬件设备和软
件系统搭建而成。
通常也是由一个控制节点和多个计算节点构成。
COW和Beowulf的主要区别在于:
COW中的计算节点主要都是闲置的计算资源,如办公室中的桌面工作站,它们就是普通的PC,采用普通的局域网进行连接。
因为这些计算节点白天会作为工作站使用,所以主要的集群计算发生在晚上和周末等空闲时间。
而Beowulf中的计算节点都是专职于并行计算,并且进行了性能优化。
Beowulf采用高速网
(InfiniBand,SCI,Myrinet)上的消息传递(PVM或MPI)进行进程间通信(IPC)。
因为COW中的计算节点主要的目的是桌面应用,所以它们都具有显示器、键盘和鼠标等外设。
而Beowulf的计算节点通常没有这些外设,对这些计算节点的访问通常是在管理节点上通过网络或串口线实现的。
143Mosix集群
实际上把Mosix集群放在高性能集群这一节是相当牵强的,但是和Beowulf等其
他集群相比,Mosix集群确实是种非常特别的集群,它致力于在Linux系统上
实现集群系统的单一系统映象SSI(SingleSystemImage)Mosix集群将网络上运行Linux的计算机连接成一个集群系统。
系统自动均衡节点间的负载。
因为Mosix是在Linux系统内核中实现的集群,所以用户态的应用程序不需要任何修改就可以在Mosix集群上运行。
通常用户很少会注意到Linux和Mosix的差别。
对于他来说,Mosix集群就是运行Linux的一台PC。
尽管现在存在着不少的问题,Mosix女台终是引人注目的集群系统
2如何架构高性能计算集群
在搭建高性能计算集群(HPCCLUSTER)之前,我们首先要根据具体的应用需求,在节点的部署、高速互连网络的选择、以及集群管理和通讯软件,三个方面作出配置。
2.1节点的部署
根据功能,我们可以把集群中的节点划分为6种类型:
用户节点(UserNode)
H控制节点(ControlNode)
管理节点(ManagementNode)
存储节点(StorageNode)
安装节点(InstallationNode)
计算节点(ComputeNode)
虽然由多种类型的节点,但并不是说一台计算机只能是一种类型的节点。
一台计算机所扮演的节点类型要由集群的实际需求和计算机的配置决定。
在小型集群系
统中,用户节点、控制节点、管理节点、存储节点和安装节点往往就是同一台计算机。
下面我们分别解释这些类型节点的作用。
2.1.1用户节点(UserNode)
用户节点是外部世界访问集群系统的网关。
用户通常登录到这个节点上编译并运
行作业。
用户节点是外部访问集群系统强大计算或存储能力的唯一入口,是整个系统的关键点。
为了保证用户节点的高可用性,应该采用硬件冗余的容错方法,如采用双机热备份。
至少应该采用RAID(RedundantArrayofIndependentDisks)技术保证用户节点的数据安全性。
2.1.2控制节点(ControlNode)
控制节点主要承担两种任务:
为计算节点提供基本的网络服务,如DHCP、DNS和NFS;调度计算节点上的作业,通常集群的作业调度程序(如PBS)应该运行在这个节点上。
通常控制节点是计算网络中的关键点,如果它失效,所有的计算节点都会失效。
所以控制节点也应该有硬件冗余保护。
2.1.3管理节点(ManagementNode)
管理节点是集群系统各种管理措施的控制节点。
管理网络的控制点,监控集群中各个节点和网络的运行状况。
通常的集群的管理软件也运行在这个节点上。
2.1.4存储节点(StorageNode)
如果集群系统的应用运行需要大量的数据,还需要一个存储节点。
顾名思义,存
储节点就是集群系统的数据存储器和数据服务器。
如果需要存储TB级的数据,
一个存储节点是不够的。
这时候你需要一个存储网络。
通常存储节点需要如下配置:
ServerRAID保护数据的安全性;高速网保证足够的数据传输速度。
2.1.5安装节点(InstallationNode)
安装节点提供安装集群系统的各种软件,包括操作系统、各种运行库、管理软件和应用。
它还必须开放文件服务,如FTP或NFS。
2.1.6计算节点(ComputingNode)
计算节点是整个集群系统的计算核心。
它的功能就是执行计算。
你需要根据你的需要和预算来决定采用什么样的配置。
理想的说,最好一个计算节点一个CPU。
但是如果考虑到预算限制,也可以采用SMP。
从性价比角度说,两个CPU的SMP优于3或4个CPU的SMP机器。
因为一个计算节点的失效通常不会影响其他节点,所以计算节点不需要冗余的硬件保护。
2.1.7集群中节点的部署
虽然由多种类型的节点,但并不是说一台计算机只能是一种类型的节点。
一台计算机所扮演的节点类型要由集群的实际需求和计算机的配置决定。
在小型集群系统中,用户节点、控制节点、管理节点、存储节点和安装节点往往就是同一台计算机,这台计算机通常成为主节点(MasterNode)。
在这种情况下,集群就是由多个计算节点和一个主节点构成。
在大型的集群系统中如何部署这些节点是个比较复杂的问题,通常要综合应用需求,拓扑结构和预算等因素决定。
2.2高速互连网络
网络是集群最关键的部分.它的容量和性能直接影响了整个系统对高性能计算(HPC)的适用性。
根据我们的调查,大多数高性能科学计算任务都是通信密集型的因此如何尽可能的缩短节点间的通信延迟和提高吞吐量是一个核心问题。
2.2.1快速以太网
快速以太网是运行于UTP或光缆上的100Mb/S的高速局域网的总称。
由于
TCP/IP运行时对CPU的占用较多,并且理论上的传输速度和延迟都比较差,现在我们在HPC集群中计算网络的选择上基本不考虑这个方案了。
2.2.2千兆以太网(Giganet)
Giganet是用于Linux平台的虚拟接口(VI)体系结构卡的第一家供应商,提供cLAN卡和交换机。
VI体系结构是独立于平台的软件和硬件系统,它由Intel开发,用于创建群集。
它使用自己的网络通信协议在服务器之间直接交换数据,而不是使用IP,并且它并不打算成为WAN可路由的系统。
Giganet产品当前可以在节点之间提供1Gbps单向通信,理论最小延迟为7微秒,实测延迟为50-60微秒左右,并且运行时对CPU的占用也比较大。
2.2.3IEEESCI
IEEE标准SCI的延迟更少(理论值1.46微秒,实测值3-4微秒),并且其单向速度可达到10Gb/秒,与InfiniBand4X的理论值一样。
SCI是基于环拓扑的网络系统,不像以太网是星形拓扑。
这将使在较大规模的节点之间通信速度更快。
更有用的是环面拓扑网络,它在节点之间有许多环形结构。
两维环面可以用n乘m的网格表示,其中在每一行和每一列都有一个环形网络。
三维环面也类似,可以用三维立体节点网格表示,每一层上有一个环形网络。
密集超级计算并行系统使用环面拓扑网络,为成百上千个节点之间的通信提供相对最快的路径。
什么是SCI互连技术?
符合ANSI/IEEE1596-1992的SCI技术定义了点到点高速通信端口和数据包协
hl
议集;
SCI作为一种开放总线技术,实现了高带宽(10Gbit/s)、低延迟(1.46微秒)
1-1
的网络通讯;
SCI端口是双向连接的,保证了数据读、写操作可以同步进行;
支持多种CPU类型(Intel、AMDSunAlpha);
支持多种流行操作系统(Windows2000NTRedHatLinux、SuSELinux、
hl
Solaris、Lynx、Tru64
IIU
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 性能 计算 集群