GIS平台部署项目方案设计.docx
- 文档编号:23932959
- 上传时间:2023-05-22
- 格式:DOCX
- 页数:66
- 大小:9.35MB
GIS平台部署项目方案设计.docx
《GIS平台部署项目方案设计.docx》由会员分享,可在线阅读,更多相关《GIS平台部署项目方案设计.docx(66页珍藏版)》请在冰豆网上搜索。
GIS平台部署项目方案设计
1.1技术方案
1.1.1项目背景
为了满足xxxx研究所(地理所)资源与环境信息系统国家重点实验室时空大数据的存储、管理、计算、制图、共享服务等业务需求,为空间数据部门提供海量化、可视化与自动化的技术支持,全面提升地理所对大规模时空数据的管理与服务能力,希望通过时空大数据管理与服务平台的实施为xxxx研究所的基础数据的整合共享、可视化管理、大规模时空数据库的管理与服务能力等提供必要的保障与服务,同时全面提升信息化水平,完成大数据管理平台的建设。
总体建设要求:
本项目要建成xxxx研究所时空大数据管理与服务平台,可实现地理所对大规模时空数据的管理、计算与服务能力的全面的提升,尤其是在可视化管理、查询高达数百TB空间数据、影像处理水平、大规模空间数据的数据共享与可视化制图服务的整体能力。
1.1.2项目需求分析
项目建设目标:
建成xxxx研究所时空大数据与服务平台,实现平台数据、三维产品、应用系统云端下的部署与应用,为空间数据部门提供海量化、可视化与自动化的技术支持,全面提升地理所对大规模时空数据的管理与服务能力,希望通过时空大数据管理与服务平台的实施为xxxx研究所的基础数据的整合共享、可视化管理、大规模时空数据库的管理与服务能力等提供必要的保障与服务。
本项目的招标内容主要是xxxx研究所时空大数据与服务平台系统开发、数据处理、系统对接工作。
3.1.2.1功能需求
(1)软件平台
通过该平台可以达到两大方面的需求,一是通过该平台可以进行集群硬件状况与性能的监控;能够实现大规模栅格数据的接入、存储、管理、检索、快速可视化与制图、共享服务等(数据单景可达500GB,数据总量可达500TB);同样实现大规模矢量数据的接入、存储、管理、检索、快速可视化与制图、共享服务等(单个数据可达3GB,属性字段支持中文,并支持WCS、WFS等标准服务);还有实现大规模三维模型数据的接入、存储、管理、检索、快速可视化与制图、共享服务等(支持三维模型的渐进传输模型的存储与抽取);与此之外还可以提供非时空数据的接入、存储、管理、共享等支持,设计实现大规模时空数据的计算框架,支持集群/多核/GPU等多层次的高性能计算技术,实现分布式的空间计算(调用计算工具);提供空间数据模型(多种栅格与矢量数据格式),开放计算框架APIs与工具编写规范,并可由用户自主开发计算工具;提供100~200个具有代表性的计算工具(RS计算工具、GIS计算工具),实现多层次的空间大数据计算与分析;大规模时空数据的实时渲染与交互制图,支持地图配置、图层配置、样式配置等;达到单个地图瓦片的服务响应时间控制在45ms以内。
二是在平台功能服务的需求上,要求该平台技术先进、成熟,核心技术自主研发;所有服务的使用都通过完善的加密控制和权限管理,确保用户的数据安全;支持分布式和集群式部署,能够实现系统服务能力的动态扩充;软件平台服务提供WebAPI,实现各类数据服务的远程管理,包括创建数据服务、删除数据服务、初始化数据服务;客户端应提供成熟的二次开发工具,实现应用功能的定制开发。
(2)平台客户端
通过平台服务的支撑,平台客户端的建设,可以提供C/S管理客户端、B/S数据查询服务应用客户端以及Android的手机端与平板APP,且支持二维与三维的地图视图;管理客户端通过简明UI流畅对接数据管理、查询,计算与工具,可视化与配图功能,并能流畅交互;应用客户端与移动端提供基本的数据查询、浏览,地图浏览等。
(3)遥感影像数据处理入库
通过该平台可以在遥感影像数据处理入库方面实现以下要求,在数据提取方面全面检查遥感影像原始数据,确保数据源的完整性和一致性,提取原始影像元信息并入库;对影像进行正射纠正处理,消除原始影像由于传感器的外方位变化、传感介质不均匀、地球曲率等因素造成的变形误差;对经过正射纠正后的影像进行配准,确保不同传感器影像数据的几何精度一致性,并且具备相同的空间坐标系;对配准后的影像进行融合处理,合成真彩色影像或假彩色影像;根据行政界线或者指定感兴趣区,对影像进行匀色镶嵌处理,最终镶嵌成果色彩一致,接近真实地表情况;对于影像处理过程中的阶段性成果进行入库,主要入库数据包括:
原始数据、正射数据、融合数据、镶嵌数据。
3.1.2.2性能需求
xxxx研究所时空大数据与服务平台将满足不同部门的大量用户同时登录系统、进行数据提取入库、数据处理计算等等,因此对平台的性能有着较高的要求:
用户数和响应时间:
支持1000用户并发,登录时间小于3秒;200用户并发,登陆时间小于2秒;对于一般的系统提交操作及简单的查询操作,平均相应时间小于2秒;对于较复杂的组合查询,平均响应时间小于5秒。
系统的吞吐量:
页面点击率为12PagesHit/s;Web流量:
100M环境下,能够支持20M/s。
系统的稳定性:
系统支持7*24小时稳定运行,系统出错率小于0.1%。
制图可视化性能要求:
交互式可视化效率不低于25帧/秒。
3.1.2.3安全需求
xxxx研究所时空大数据与服务平台以统一的空间基础数据库为依托,面向全所各部门提供空间信息服务,平台的安全性尤为重要。
在系统的安全设计中需要考虑系统的物理设备安全、网络安全、应用系统安全以及数据安全。
3.1.2.4其它需求
进度要求:
本项目建设工期为45日历天。
质保期要求:
一年。
1.1.3平台总体方案
基于高性能GIS系统,对平台的软件功能进行集成、封装,搭建TQJD大数据管理与服务平台,提供“集群—数据—计算—信息—制图”一体化的服务。
本小节详细讨论平台的软硬件部署与服务,具体包括平台功能的需求、平台的软硬件架构、平台的服务APIs等几个部分。
苏州中科xxxx遥感科技有限公司自主研发的TQJD平台以空间数据的分布式存储为指导思想,采用“主(Master)-从(Node)”的数据存储架构模式,将数据及其元数据(metadata)分开存储,在主节点(Master)上存储元数据并提供元数据服务;而将数据文件存储在多个节点(Node)上并提供并行I/O访问。
这种架构方式的一个好处是可随着数据规模的扩大进行存储服务器的动态扩展,而且也相对容易地实现负载平衡和动态调整。
图3-1总体方案图
3.1.3.1平台优势与特色
在深入分析项目建设现状的基础上,根据xxxx研究所平台部署项目需求,结合系统建设规划和目标,我们在此阐述系统平台的优势与特色。
为了科学、经济合理的完成本次建设,实现项目建设目标,并满足长远规划的要求,在本方案总体设计中,我方的平台充分考虑和遵循以下原则:
系统扩展性原则
在主流IT技术及相关技术飞速发展的今天,系统的扩展性是任何一个新建系统不容忽视的问题。
本系统的扩展性主要从以下两个方面来考虑:
(1)数据的扩展性
数据的扩展性是指系统数据模型的扩展性,是对于本系统建立后出现的数据模型的兼容性。
对此,本系统提供了用户自定义数据模型的功能,用户可以通过它定义自己的数据模型来实现与现有数据模型的兼容。
(2)功能的扩展性
系统设计时所采用的“插件基础,框架集成”的模式能很好地解决功能的扩展性。
系统建成后,扩展功能可以写成插件的形式,然后通过插件管理器集成到系统中来。
还要允许用户可以自定义参数、自定义数据处理方法、自定义查询条件、自定义输出数据类型,使系统具有良好的扩展性。
1.系统兼容性原则
系统结构设计时,采用面向对象的技术,利用事件驱动和封装的思想为应用软件提供接口;在功能实现上,充分体现xxxx研究所时空大数据管理与服务平台功能,同时还考虑数据共享和接口应用;在软件的平台选型上,选用当今主流平台,为系统的发展和升级提供方便;在软件的总体架构方面,注重接口的设计,充分考虑本系统与其它系统的无缝连接。
2.系统实用性原则
系统应具有多种功能的批处理实现,人机交互必须简便实用,系统的输入和输出统一规范化。
3.系统安全性原则
为保障系统安全,应对软件需求、结构设计、程序编写、软件测试和软件变更进行安全性分析,避免设计异常、实现异常和使用异常。
4.系统可靠性原则
在方案设计过程中,必须对服务器、和相关软件的部署进行合理的规划、保障系统全年不间断稳定运行,关键业务系统设备不存在单点故障隐患,并提供完备的备份和灾难恢复措施,保障在业务系统出现重大故障后能迅速恢复。
此外,还应合理的配置资源的规格型号数量,避免关键性资源形成瓶颈影响整体业务的正常运转。
5.经济性原则
在满足系统需求的前提下,选用经济实用的软硬件设备,以便节省投资,即选用高性能价格比的设备;同时,应该充分挖掘现有系统软硬件设备的使用潜力,尽可能以最低成本来完成系统建设。
3.1.3.2平台指标
TQJD大数据管理与服务平台面向急剧暴涨的空间大数据与日益增长的信息需求,提供上百TB的大数据存储与管理、空间大数据的高性能计算与分析、面向企业/个人/区域/全球等多层次的数据与信息服务。
平台的数据服务指标
数据服务指标包括:
1.数据类型分析;平台管理的数据包括栅格数据(影像与DEM)、矢量数据、三维模型数据和其他非空间数据等四种类型。
2.数据容量需求;单景栅格数据容量达100+GB,单个FeatureLayer达500+MB、对象10W+个;栅格数据总容量达上百TB,矢量数据达TB级。
3.数据共享服务;栅格数据、其他非空间数据实现FTP文件服务;矢量数据提供WCS/WFS标准服务;三维模型数据实现渐进传输(PT)服务。
平台的计算服务指标
计算服务指标包括:
1.计算服务形式;平台提供开发的计算框架,用户遵循<平台计算工具开发技术规范>开发功能,并能简便地集成到平台计算环境中。
2.计算规模分析;平台具有大规模的空间计算能力,单次计算数据量可达200+GB,同时在线计算数据量可达5TB。
平台的制图服务指标
制图服务指标包括:
1.交互制图;支持地图、地图样式、图层、图层样式、波段合成、图层顺序等地图的交互配置和预览;
2.支持高并发访问;并发用户数≥10,000时的制图服务可靠性≥99%;
3.制图可视化性能;交互式可视化效率不低于25帧/秒。
平台服务能力指标
服务能力指标包括:
1.平台服务形式;平台基于标准的HTTP(S)1.1通信协议,提供标准的服务;
2.平台的服务用户;1)面向大司空数据应用的客户
“总—分”结构的分布式架构
针对上述对TQJD大数据管理与服务平台的数据、计算与服务的指标分析,基于高性能GIS系统,搭建“总—分”结构的服务平台,而在总中心与分中心分别实现分布式的架构。
1.大数据服务的“总—分”结构
2.数据中心的分布式架构
在大数据服务“总—分”结构的基础上,数据服务的总中心和分中心均采用分布式的软硬件架构。
3.1.3.3平台硬件架构
基于上述平台功能的需求,参考“数据—计算”一体化的分布式架构思想,构建可伸缩的平台硬件架构。
硬件整体架构
基于“数据—计算”一体化的分布式架构思想,搭建无共享系统构架(SharedNothingArchitecture,SNA):
集群中每个节点都配备有存储设备和计算资源,使计算本地化,减少数据在节点间的迁移。
如图3-2所示,整个硬件构架共包含三层;存储/计算层是“数据—计算”一体化硬件构架的核心,由机架服务器与磁盘阵列组合而形成集群节点,节点通过高速的控制网络与数据网络(GigabitEthernetSwitch)相连而成,组成庞大的集群系统;服务层是分布式架构的服务端,经由高速以太网,连接各个集群节点和服务器,并通过服务端将集群所提供的存储、计算能力提供出去。
图3-2高性能GIS的硬件架构
下面对各个硬件的功能进行简单论述。
1.磁盘阵列(RedundantArrayofIndependentDisks,RAID)
RAID通过硬盘控制器把多块独立的物理硬盘按某种方式组合成一个硬盘组(逻辑硬盘),实现多个硬盘的读写同步;并通过数据备份,提高磁盘的可靠性。
RAID不但能够充分发挥出多块硬盘的优势,提供远远超出任何一块单独硬盘的速度和吞吐量;而且RAID提供多个级别的数据备份功能,具有良好的容错能力,在用户数据一旦发生损坏后,利用备份信息可以恢复损坏的数据,保障了用户数据的安全性。
计算机技术的发展,使得RAID技术被应用于中低档甚至个人PC机上,可以通过主板上板载的RAID芯片,直接组建磁盘阵列并同计算机相连。
2.机架服务器
机架服务器是一种外观按照统一标准设计的服务器,配合机柜统一使用,以尽可能减少服务器空间的占用。
将机架服务器同磁盘阵列相连,集群中的每个节点具有独立的存储设备与计算资源,能够独立完成计算任务。
3.高速以太网络
利用多网卡技术,实现控制和数据的分离传输。
磁盘阵列之间通过高速数据网络互联,保证大数据量传输的稳定性;控制指令通过高速控制网络传输,保证控制的实时性。
4.GPU处理器
CPU包含几个专为串行处理而优化的核心,而GPU由数以千计更小、更节能的处理核心组成,这些核心专为提供强劲的大规模的并行性能而设计。
通过流程设计,将程序中计算量繁重的并行部分交由GPU处理,以提高程序执行速度。
5.服务器
在上述机架服务器上,利用虚拟机技术,抽象出空间数据查询服务器、空间数据服务服务器、空间信息计算服务器、WTS服务器、WFS服务器等。
上述分布式硬件架构,可通过增加更多节点的方法获取更大的平台存储能力、更高效的计算能力与服务能力,平台具有较强的可扩展性与伸缩性。
硬件配置
针对硬件架构建设的需要,进一步设计机房环境、机柜与机架服务器配置、RAID参数与指标、交换机参数等。
1.机房环境
表3-1服务器机房环境配置
污染物
远离腐蚀气体、易燃易爆物;腐蚀气体随着新风吸入机房后会对计算机设备和人员健康造成危害,同时不洁净的空气也会对计算机设备的运行造成不利影晌,还会对机房内精密空调、新风机等的滤网等造成污染。
温度、湿度
1.干球温度计:
20℃~25℃(68F~77F);2.相对湿度:
40%~50%;3.最大露点:
2l℃(69.8℉);4.最大变化速度:
每小时5℃(9℉)。
噪声
计算机停机时,机房内的噪声在主机房中心处测试应小于6SdB(A)
照度
机房在距地0.8m处,照度不应低于3001x,辅助房间照度不低于2001x
无线电干扰场强
频率为0.15~1000MHz时不大于126dB
磁场干扰
磁场干扰场强不大于800A/m
地板振动加速值
计算机停机时,主机房地板表面垂直及水平向的振动加速度值不应大于500mm/s
电阻
主机房地面及工作台面的静电泄漏电阻,应符合现行国家标准GE6650-1986《计算机机房用活动地板技术条件》的规定
静电
主机房内绝缘体的静电电位不应大于lKV
2.机柜
表3-2KVM一体机服务器机柜套件
基本参数
17寸LCD液晶屏幕、键盘及鼠标触控板整合于一个1U的抽拉式控制端模块内
口数:
8;带宽:
75Hz;支持分辨率:
1280x1024
切换方式:
OSD屏幕选单、热键、面板按键
特点
CL5708SlideawayLCDKVMP抽拉式多电脑切换器是一套先进的控制方案,其可通过一组PS/2或USBKVM控制端(键盘、鼠标及显示器)存取多台服务器。
一台设备可分别直接管理8台服务器;通过菊链方式另外再串接31台KVM多电脑切换器,即可从单一控制端管理多达256台服务器;图腾42U服务器标准机柜:
600*1000*2000,前后网孔,带3个以上托盘;KVM保修3年
3.机架服务器
表3-3机架服务器的配置参数
架构
机架式,高度≤2U,带快速滑动导轨,带理线架;
CPU
不低于两颗E56492.53GHz,12MB缓存,5.86GT/sQPI,6C;
内存
最大可扩展容量不低于8个插槽,当前配置容量不低于32B(4×8GB)1066MHz,四列LVRDIMMs;
硬盘
当前配置不低于2个300GB10KrpmSAS热插拨硬盘,5块2TBNL-SAS盘,不低于6Gbps;工厂定制希捷硬盘,5年硬盘不返还服务,扩展性(必须满足)最大支持不低于14块硬盘,可选8块硬盘机箱和4块硬盘机箱;
RAID卡
配置RAID0、1、5、6、10、50、60,支持热备盘技术,高速缓存H700不低于512MB;网卡:
不低于2个主板集成千兆以太网卡,带故障切换和负载均衡功能,支持TOE,iSCSI启动;
I/O
PCI插槽不低于4个,两种Riser卡可选:
3×PCIe(x8)+1×Storage或1×PCIe(x16)+1×Storage;
光驱
1个DVD-ROM驱动器;配置服务器导轨;
管理
1、远程管理卡(必备):
远程管理卡,具有单独的管理网口,不依赖主机操作系统进行远程操作,独立远程管理卡不占用PCI插槽,支持视频重定向,服务器复位、重新启动、开机/关机,远程虚拟介质(CD/DVD/软驱/USB存储固态盘),内置128MBFlashMemory可用于紧急的软件诊断,支持加密连接(SSL),支持Vflash卡。
(必须满足);
2、LCD屏幕/主板管理控制器(必须满足)前面板上配备有可编程液晶屏,可显示默认或定制信息,包括IP地址、服务器名称、金牌支持服务编号等。
如果系统发生故障,该液晶屏上将显示关于故障的具体信息。
主板集成嵌入式管理控制器,可一站式地完成操作系统的部署,包括内建驱动程序安装、固件更新、硬件配置和问题诊断。
不需要辅助光盘,在内嵌管理器中快速部署驱动、RAID、Firmware;不需要辅助光盘/软盘,实现快速安装系统;
3、管理软件(必须满足)管理控制台支持将IT网络中所有主流品牌基础架构管理整合到一个控制台上,提供单一视图和单一通用数据源,采用模块化结构,提供基本的硬件管理,支持资产和安全管理。
采用基于网页的界面,符合行业标准的SSL协议传输加密数据;支持SSL虚拟介质连接;可与动态目录(ActiveDirectory)集成。
电源
两个热插拔750W电源,额定功率750W电源;
服务
5年IT专业支持与关键任务,5年当日4小时(24X7)上门服务(配件+人力),人工、配件、交通等任何费用全免;高级软件支持;原厂本地技术客户经理24×7电话支持,可选硬盘不返还服务;要求提供原厂商正式服务承诺函;要求必须提供原厂商产品授权证明。
4.交换机
表3-4交换机的配置参数
端口
线速非阻塞交换机,48个10/100/1000Base-TX自适应以太网端口,4个可用的1000Base-XSFP千兆以太网端口,支持万兆接口不少于2个;
速率
交换容量240G,包转发率132Mpps;
IP
支持虚拟化,支持IPv6,支持IPv4和IPv6的三层路由功能;
服务
三年原厂7×24×4现场服务。
3.1.3.4平台软件架构
按照xxxxTQJD大数据管理与服务平台的整体设计,大数据平台基于高性能GIS软件的功能体系,对资源引擎、数据引擎、计算引擎和可视化与制图引擎进行有机组合和封装,构建面向数据/信息流水线生产、数据/信息服务多样化服务的平台软件体系,并通过服务APIs接口支撑平台的产品生产和解决方案。
(1)统一的对外服务接口
根据用户请求的类型(资源、数据、计算、地图等),将服务分发到服务集群相应的服务节点上。
图3-3服务总线—统一的对外接口
(2)平台安全与权限
在请求发送到服务总线时,服务总线查询用户及权限数据库,对请求进行动作过滤、数据约束等,并将限制后的命令发送到服务集群。
图3-4服务总线的权限/安全机制
3.1.3.4.1软件功能架构
基于大数据服务平台的应用需求,平台的软件功能构架如图3-5所示。
图3-5软件功能架构
3.1.3.4.2资源服务
资源服务引擎建立在底层硬件的基础上,是对硬件资源的抽象和虚拟化。
其实现对集群系统中硬件资源的管理、调度和监控,如收集各个节点的CPU、内存容量、磁盘、网络带宽等信息及其实时利用情况,集群中节点的添加、暂停、配置和移除操作;同时配合数据存储和计算任务的管理,如数据存储位置的确定、计算资源的分配等;并且支持平台的安全管理和日志功能,如客户端用户权限管理、系统日志查看、针对不同用户的客户端订制等。
在大数据服务云平台中,资源服务是基础实施即服务(G-IaaS)的具体实现,是最底层的云服务,为上层的数据、计算和可视化服务以及客户端提供基础支撑。
3.1.3.4.3数据服务
数据服务建立在分布式文件系统的基础上,利用MySQL-SE、GDAL/OGR模型、NoSQL数据库和NFS文件系统,实现空间数据存储、管理的抽象和虚拟化。
在数据存储上,采用MySQL-SE存储空间数据的元数据,而空间数据本身按照既定的存储策略分布式地存储在集群节点上;在数据管理上,数据服务引擎负责数据的迁移、备份、恢复等;在数据服务上,数据服务引擎支持数据的查询、查看、导入、导出、删除等操作。
在大数据服务云平台中,数据服务引擎是空间数据即服务(G-DaaS)的具体实现,为计算和可视化服务以及客户端提供服务支撑。
3.1.3.4.4计算服务
计算服务建立在多层次的异构并行计算环境的基础上,是对空间数据计算的抽象和虚拟化。
计算服务负责计算工具的管理,如RS/GIS工具的注册、卸载、调用执行以及工具流的组装等;支持计算任务的调度和分配,任务的执行和监控等。
在大数据服务云平台中,计算服务是空间信息软件即服务(G-SaaS)的具体实现,为可视化服务以及客户端提供服务支撑。
3.1.3.4.5可视化与制图服务
可视化与制图服务建立在数据服务和计算服务的基础上,是计算服务针对空间大数据渲染的特殊应用。
从计算实现看,数据可视化是数据计算的具体化和实例化,具有的数据密集,运算简单而琐碎,实时性较高等特点。
大数据服务平台通过APIs对外提供资源管理服务、数据服务、计算服务和可视化与制图服务,其功能清单和所依赖功能如表3-5所示。
表3-5平台功能列表
项目
功能
底层依赖
资源服务
1.节点的增删/启停;
2.集群节点硬件性能检测;
3.节点资源消耗监测;
4.用户与组角色分配与管理;
5.系统日志;
管理引擎
数据服务
1.数据的接入/交换/导出;
2.数据的时空属性查询;
3.数据存储的统计分析(时间、空间、存储);
4.数据简单的预处理;
5.数据安全与一致性维护(迁移、备份、恢复);
管理引擎
数据引擎
计算服务
1.计算工具注册、卸载、调用;
2.计算任务的分发、监控、结果回收;
3.计算任务的重启、迁移、负载均衡;
4.计算流水线的构建与执行;
管理引擎
数据引擎
计算引擎
可视化与制图服务
1.创建/删除/配置/发布地图;
2.添加/删除/调整/配置图层;
3.切片/缓存地图;
4.栅格/矢量/DEM图层支持;
5.WMS/WTS标准地图服务;
管理引擎
数据引擎
计算引擎
制图引擎
三维可视化引擎
表3-6平台软件环境配置
项目
软件
其他说明
1.操作系统
WindowsServer2008R2
支持x64操作
2.空间(元)数据库
MySQLServer5.6+;
MySQLWorkbench;
3..NETFramework
4.0;4.5
4.文件服务FTP
IIS的FTP服务
5.Web服务
IIS的HTTP服务
3.1.3.5平台服务APIs
对平台的软件功能进行集成与封装,并开放平台APIs,支持服务
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- GIS 平台 部署 项目 方案设计