探究数据挖掘技术在水利工程管理.docx
- 文档编号:27476225
- 上传时间:2023-07-01
- 格式:DOCX
- 页数:6
- 大小:20.19KB
探究数据挖掘技术在水利工程管理.docx
《探究数据挖掘技术在水利工程管理.docx》由会员分享,可在线阅读,更多相关《探究数据挖掘技术在水利工程管理.docx(6页珍藏版)》请在冰豆网上搜索。
探究数据挖掘技术在水利工程管理
探究数据挖掘技术在水利工程管理
本文从网络收集而来,上传到平台为了帮到更多的人,如果您需要使用本文档,请点击下载按钮下载本文档(有偿下载),另外祝您生活愉快,工作顺利,万事如意!
1引言
我国长期以来兴建了一大批水利工程,初步形成了具有防洪、排涝、灌溉、供水、发电、养殖、种植、旅游等功能要素的水利工程体系,为国民经济的高速发展发挥了巨大的基础作用和支撑作用。
在水利工程建设取得辉煌成就的同时,人们逐渐意识到我们在水利工程的管理上还存在着手段比较落后,重建轻管、水利资源利用率低等突出问题,致使一大批水利工程不能发挥其价值,或者工程寿命大大缩短。
穆范椭等分别从制度管理、机制管理、人力资源管理等几个方面对水利工程管理中存在的问题进行了论述,并提出了不少可行性的解决措施。
不可否认,水利工程管理中出现的问题,不少是制度上的问题,但水利工程管理有其特殊性、复杂性,需要广博的知识和高超的技术,单纯靠“软管理”是不能从根本上解决问题的,必须借助一些现代化的信息手段来辅助进行决策和管理,才能够更好、更科学地解决问题。
近年来,在水利工程信息化的过程中,我国建设了一大批水利工程管理信息系统,对于水利工程的建设和运行管理起到了很好的帮助作用。
但是,这些系统所提供的功能大多是业务型的,很少面向管理决策。
随着水利工程管理向现代化纵深发展,这些系统远远满足不了人们的需要。
另一方面,水利工程管理信息系统在发展过程中积累了海量的数据,不少是空间类型的数据,而且这些数据还在不断地增长,而相比于数据的生产、运输和累积能力,人类对空间数据的分析能力还很落后。
人们虽然深知这些海量数据中蕴含了很多有价值的知识,但是不知道如何利用它们,而依靠传统的信息系统是解决不了这些问题的。
数据挖掘技术的出现为这些问题的解决带来了可能。
所谓数据挖掘,就是从海量数据中发现潜在的、有价值的知识的过程。
传统的数据挖掘技术和方法一般作用于非空间数据,而水利工程管理方面的数据不但有非空间数据,还有大量的空间数据。
和非空间数据相比,空间数据除了具备非空间数据的特征外,还有拓扑、方位和距离等非空间特征,因此其挖掘技术的实现有其特殊性。
在武汉大学李德仁院士首次提出空间数据挖掘这一概念后,国内外不少学者为此开展了广泛的研究。
2空间数据挖掘在水利工程管理中应用需要解决的主要问题
水利工程管理信息系统中存在着大量的空间数据,因此需要采用空间数据挖掘技术。
和一般的空间数据挖掘系统相比,对水利工程数据的挖掘需要考虑其历史发展因素和特殊性。
首先,水利工程是一个系统工程,其有效管理往往需要多领域、多部门的专家相互协作,一项重要决策的做出往往需要对历史数据从各种维度进行分析,反复考虑各种因素,综合各个专家的意见才能形成,而不同的专家和决策者会从不同的角度来分析数据,因此对水利工程数据的挖掘需要交互探查或查询驱动的方法,在技术实现上需要采用数据仓库和数据立方体支持这种探查式的、快速的联机查询和分析。
其次,在用的水利工程信息系统的主体是GIS(GeographicalInformationSystem,地理信息系统),大部分的空间数据是由GIS系统生成的,空间数据的查询、计算、分析和可视化显示是一种复杂的技术,因此如何利用原有的GIS系统中的数据,数据挖掘如何和GIS集成以进行复杂的空间数据处理成为一个需要解决的重要问题。
最后,要实现水利工程的数据挖掘,需要建立一个数据挖掘系统模型,模型在系统工程的研究、设计和实现中是一个非常重要的问题,一个好的模型对了解系统本质特征、揭示系统的规律起到非常重要的作用,建模也是实现一个工程系统的重要一步。
因此,要想实现空间数据挖掘技术在水利工程管理中的应用,这3个问题是我们不可回避的、必须研究的核心问题。
3空间数据仓库
水利工程信息化的过程中产生了海量的数据,而数据仓库是处理海量数据的关键技术,它可以将不同来源的数据统一到语义上一致的环境下。
在水利工程信息系统中除了有丰富的非空间数据外,还有大量的空间数据,如地图、预处理过的遥感图像、视频等。
空间数据与非空间数据相比,除了具备传统数据库数据的特征外,还携带了空间特征,如拓扑、方位、距离等。
“空间数据仓库是面向主题的、集成的、时变的和非易失性的非空间数据和空间数据的集合”,用于支持空间数据挖掘和与空间数据相关的决策过程。
建立空间数据仓库是一个具有挑战性的工作,需要解决两个方面的问题:
集成来自异构数据源和系统的空间数据;如何在空间数据仓库中实现快速而灵活的联机分析处理。
影响水利工程建设和管理决策的数据来源是丰富多样的,如气象数据库、蓄滞洪区空间分布式社会经济数据库、雨情和水情数据库、水旱灾情数据库等,它们往往存在于异构的环境中,可能来自于不同的系统,数据格式多种多样。
数据格式不仅与特定的结构有关,如光栅格式和矢量格式,而且与特定的厂家有关。
为了能够进行空间数据的分析和处理,需要首先对这些异构的数据进行清洗、变换和集成,以清晰一致的格式存放在数据仓库中,然后可以调用相应的数据挖掘算法获取有用的知识。
空间数据仓库已成为联机数据分析处理和数据挖掘必不可缺的平台。
利用空间数据仓库技术,可以对异构的各类信息进行过滤、集中和综合,完成水情信息采集、工情信息采集、防汛抗旱信息等水利工程信息的自动接收、处理等功能,在此基础上可以进行汛情分析、暴雨洪水预报、调度、灾情评估以及旱情预测等知识发现功能。
空间数据仓库、OLAP(On-LineAnalyticProcess,联机分析处理)和OLAM(On-LineAnalyticMining,联机分析挖掘)的实现基于多维数据模型,这种模型围绕中心主题组织数据,将数据看作数据立方体的形式。
数据立方体允许从多维对数据建模和观察,它由维和事实来定义。
数据仓库有星型模式、雪花型模式或事实星座型模式。
在这3种结构中,星型模式提供了简洁而有组织的仓库结构,便于进行OLAP和OLAM操作,所以是空间数据仓库建模的好选择。
相比于传统的数据立方体,空间数据立方体中存在3种类型的维:
非空间维、空间到非空间维和空间到空间维;有两种不同的度量:
数值度量和空间度量。
4水利工程GIS系统与数据挖掘系统结合的方式水利工程的建设和管理与其所在地的地形、地质、社会、经济以及河流的水文等空间要素有关,而GIS善于处理和分析空间信息,因此大多水利工程在信息系统中采用了GIS技术。
GIS是空间数据库发展的主体。
GIS中含有大量的空间和属性数据,有着比一般关系数据库和事务数据库更加丰富和复杂的语义信息,隐藏着丰富的知识。
空间数据挖掘和知识发现技术,一方面可使GIS查询和分析技术提高到发现知识的新阶段,另一方面从中发现的知识可构成知识库用于建立智能化的GIS系统,同时也将促进3S(GIS/RS/GPS)的智能化集成,因此很有必要探讨GIS系统与数据挖掘系统的结合方式。
当数据挖掘系统工作在一个需要与其他信息系统成分通信的环境下,可以采用不耦合、松散耦合、半紧密耦合和紧密耦合4种方案。
不耦合方案虽然简单,但缺点不少,是一种非常糟糕的设计。
雷宝龙和李春梅提出了GIS与空间数据挖掘集成的3种模式:
松散耦合式、嵌入式和混合型空间模型法。
在此基础上对上述3种模式进行了改进,以适合于水利工程GIS系统和空间数据挖掘系统的集成。
嵌入式
嵌入式是将数据挖掘系统融入到GIS中,也就是说系统既是一个GIS系统,又是一个数据挖掘系统。
嵌入式的优点是可以充分利用GIS系统所提供的空间数据处理和分析功能来开发数据挖掘系统,减少了开发的工作量,降低了开发的难度;其缺点是数据挖掘功能被限制在特定的GIS系统中,难以移植到其他的GIS系统上,而且这种方式会因为考虑到一种用户的需求,而限制另一部分用户的需求,从而使系统功能的开发受到限制。
松散耦合式
在松散耦合式下,数据挖掘系统和GIS系统实际上是两个独立的系统,数据挖掘系统从GIS中获取空间数据和属性数据,经过清洗、过滤和变换后存入自身的数据库或数据仓库中,数据挖掘所进行的其他工作与GIS系统没有任何联系。
这种模式的优点是数据挖掘系统不依赖于特殊的GIS系统,可以开发出独立的、相对通用的空间数据挖掘系统;缺点是在数据挖掘系统中要融入复杂的空间数据的处理,系统开发的难度很高。
紧密耦合式紧密耦合式克服了嵌入式和松散耦合式的缺点,既充分利用了原有GIS的处理空间数据的强大功能,降低了开发的难度,又不受制于原有GIS系统的用户需求的制约,具有较大的灵活性,提供了相对独立的数据挖掘功能。
其缺点是和原来系统联系密切,开发的数据挖掘系统往往依赖于GIS系统。
在这3种结合方式中,紧密耦合式有着明显的优点,是建立水利工程数据挖掘系统优先考虑的方式。
5水利工程数据挖掘系统模型
文献介绍了国外几个相对比较成熟的空间数据挖掘系统:
GeoMiner、MultiMediaMiner、SKICAT等,然后提出了作者领导的空间数据挖掘团队研究和开发的两种空间数据挖掘原形系统GISDBMiner和RSImageMiner,并提出了GIS空间数据挖掘系统的体系结构。
文献介绍了现有的数据挖掘模型:
OLAM模型和影响域模型,以及GeoMiner原型系统的体系结构,最后提出了一个基于空间立方体的数据挖掘模型。
文献提到了Han提出的通用数据采掘原型DBLEARN/DBMINER、Holsheimer等人提出的并行体系结构,以及Matheus等人提出的多组件体系结构,并重点介绍了Matheus等人的多组件体系结构。
水利工程管理决策大多是复杂的非结构化决策,需要进行探查性或查询驱动型的数据挖掘,以方便不同的决策者和专家从不同的领域或角度进行数据探查和分析。
一般情况下,在挖掘过程中需要进行人机的多次对话,然后结合人类专家的隐性知识,才能够发现有价值的知识。
因此自动化的挖掘方法不适合于水利工程数据挖掘。
模型分为4层,分别为数据存储层、多维数据库与数据仓库层、OLAP/OLAM层、用户界面层。
第一层数据存储层的数据主要来源于水利工程数据库和相关的异构数据库,元数据用于指导数据的清理、过滤和集成,是构建水利工程数据仓库重要的技术手段。
第一层的数据经过变换和集成后,存储到数据仓库和多维数据库中,它们是实现第三层OLAP/OLAM分析所需要的重要的数据源。
该模型的核心是OLAP/OLAM,它们是支持探查性知识发现的核心技术。
第四层是用户界面层,用来帮助用户实现基于约束的挖掘查询,并将挖掘结果显示给用户。
6空间挖掘可以采用的方法与发现的知识类型
数据挖掘在水利工程管理上的应用,不仅可以建设智能型的GIS系统,促进遥感技术和GIS技术的深入应用,还可以从数据中发现潜在的、有价值的知识或规则,用于指导水利工程的建设和管理。
一般来说,传统的数据挖掘方法如统计、分类、聚类等都可用于空间数据挖掘,但我们不能简单地把这些方法直接应用在空间数据的挖掘上。
一方面,因为空间数据除了具备一般非空间数据的特征外,还具备拓扑、方位、距离等空间特征;另一方面,传统的数据挖掘算法一般假定数据对象统计不相关、相邻的数据对象是独立产生的,而空间数据的相邻对象间存在着关联和相互影响,因此需要对原有的方法进行改进,使得数据挖掘方法适合于地理空间数据的挖掘。
在空间数据挖掘与知识发现中可采用的方法主要有:
统计方法、归纳方法、聚类方法、空间分析方法、探测性的数据分析、Rough集方法、云理论、图像分析和模式识别等。
能发现的知识类型有:
(1)普遍的几何知识,如计算和统计出空间目标几何特征量的最小值、最大值、均值、方差、众数等;
(2)空间分布规律,如机井、水库的分布规律。
能发现的规则有:
(1)空间关联规则,如地下水与降雨量的关系,河水质量与污染企业分布的关系;
(2)空间的聚类规则;(3)空间演变规则,如水库泥沙淤积的演变规律,河道周围生态的演变规律。
需要注意的是,为了便于理解空间数据、发现空间联系、发现空间数据与非空间数据之间的关系,应重视可视化的方法在水利工程数据挖掘过程和挖掘结果的使用。
7结语
利用空间数据挖掘技术,对具有空间特征的水利工程数据进行分析,能够发现潜在有价值的知识,利用这些知识,能够降低工程管理的成本,有效利用建设和维护资金,更好地发挥水利工程的效益,为水利工程的管理决策提供依据。
要实现数据挖掘技术在水利工程中的应用,必须研究和解决数据仓库和数据立方体的应用、数据挖掘与GIS集成和水利工程数据挖掘系统模型3个核心问题。
本文对这3个问题进行了探讨,认为数据仓库是水利工程数据挖掘的基础,宜采用紧密耦合式结构与GIS系统进行集成,在挖掘模型上可以采用基于OLAP和OLAM的4层框架。
本文从网络收集而来,上传到平台为了帮到更多的人,如果您需要使用本文档,请点击下载按钮下载本文档(有偿下载),另外祝您生活愉快,工作顺利,万事如意!
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 探究 数据 挖掘 技术 水利工程 管理