《人工智能导论》课程研究报告材料总结材料Word格式文档下载.docx
- 文档编号:22177860
- 上传时间:2023-02-02
- 格式:DOCX
- 页数:18
- 大小:154.52KB
《人工智能导论》课程研究报告材料总结材料Word格式文档下载.docx
《《人工智能导论》课程研究报告材料总结材料Word格式文档下载.docx》由会员分享,可在线阅读,更多相关《《人工智能导论》课程研究报告材料总结材料Word格式文档下载.docx(18页珍藏版)》请在冰豆网上搜索。
〔3〕研究仿照脑神经系统的人工神经网络,将在模式识别、组合优化和决策判断等方面取得传统计算机所难以达到的效果。
人工神经网络特有的非线性适应性信息处理能力,克制了传统人工智能方法对于直觉,如模式、语音识别、非结构化信息处理方面的缺陷,使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。
人工神经网络与其它传统方法相结合,将推动人工智能和信息处理技术不断开展。
近年来,人工神经网络正向模拟人类认知的道路上更加深入开展,与模糊系统、遗传算法、进化机制等结合,形成计算智能,成为人工智能的一个重要方向,将在实际应用中得到开展。
将信息几何应用于人工神经网络的研究,为人工神经网络的理论研究开辟了新的途径。
神经计算机的研究开展很快,已有产品进入市场。
光电结合的神经计算机为人工神经网络的开展提供了良好条件。
1.3神经网络的开展与研究现状
神经网络的开展
神经网络起源于20世纪40年代,至今开展已半个多世纪,大致分为三个阶段。
1〕20世纪50年代-20世纪60年代:
第一次研究高潮
自1943年M-P模型开始,至20世纪60年代为止,这一段时间可以称为神经网络系统理论开展的初期阶段。
这个时期的主要特点是多种网络的模型的产生与学习算法确实定。
2〕20世纪60年代-20世纪70年代:
低潮时期
到了20世纪60年代,人们发现感知器存在一些缺陷,例如,它不能解决异或问题,因而研究工作趋向低潮。
不过仍有不少学者继续对神经网络进展研究。
Grossberg提出了自适应共振理论;
Kohenen提出了自组织映射;
Fukushima提出了神经认知网络理论;
Anderson提出了BSB模型;
Webos提出了BP理论等。
这些都是在20世纪70年代和20世纪80年代初进展的工作。
3〕20世纪80年代-90年代:
第二次研究高潮
进入20世纪80年代,神经网络研究进入高潮。
这个时期最具有标志性的人物是美国加州工学院的物理学家JohnHopfield。
他于1982年和1984年在美国科学院院刊上发表了两篇文章,提出了模拟人脑的神经网络模型,即最著名的Hopfield模型。
Hopfield网络是一个互连的非线性动力学网络,它解决问题的方法是一种反复运算的动态过程,这是符号逻辑处理方式做不具备的性质。
20世纪80年代后期到90年代初,神经网络系统理论形成了开展的热点,多种模型、算法和应用被提出,研究经费重新变得充足,使得研究者们完成了很多有意义的工作。
神经网络的现状
进入20世纪90年代以来,神经网络由于应用面还不够宽,结果不够准确,存在可信度问题,从而进入了认识与应用研究期。
1〕开发现有模型的应用,并在应用中根据实际运行情况对模型、算法加以改造,以提高网络的训练速度和运行的准确度。
2〕充分发挥两种技术各自的优势是一个有效方法。
3〕希望在理论上寻找新的突破,建立新的专用/通用模型和算法。
4〕进一步对生物神经系统进展研究,不断地丰富对人脑的认识。
1.4神经网络的应用
神经网络理论的应用取得了令人瞩目的开展,特别是在人工智能、自动控制、计算机科学、信息处理、机器人、模式识别、CAD/CAM等方面都有重大的应用实例。
下面列出一些主要应用领域:
〔1〕模式识别和图像处理。
印刷体和手写字符识别、语音识别、签字识别、指纹识别、人体病理分析、目标检测与识别、图像压缩和图像复制等。
〔2〕控制和优化。
化工过程控制、机器人运动控制、家电控制、半导体生产中掺杂控制、石油精炼优化控制和超大规模集成电路布线设计等。
〔3〕预报和智能信息管理。
股票市场预测、地震预报、有价证券管理、借贷风险分析、IC卡管理和交通管理。
〔4〕通信。
自适应均衡、回波抵消、路由选择和ATM网络中的呼叫接纳识别和控制。
〔5〕空间科学。
空间交汇对接控制、导航信息智能管理、飞行器制导和飞行程序优化管理等。
2神经网络结构与BP神经网络
2.1神经元与网络结构
人工神经网络〔artificialneuralnetwork,ANN〕是模仿生物神经网络功能的一种经验模型。
生物神经元受到传入的刺激,其反响又从输出端传到相联的其它神经元,输入和输出之间的变换关系一般是非线性的。
神经网络是由假如干简单〔通常是自适应的〕元件与其层次组织,以大规模并行连接方式构造而成的网络,按照生物神经网络类似的方式处理输入的信息。
模仿生物神经网络而建立的人工神经网络,对输入信号有功能强大的反响和处理能力。
神经网络是由大量的处理单元〔神经元〕互相连接而成的网络。
为了模拟大脑的根本特性,在神经科学研究的根底上,提出了神经网络的模型。
但是,实际上神经网络并没有完全反映大脑的功能,只是对生物神经网络进展了某种抽象、简化和模拟。
神经网络的信息处理通过神经元的互相作用来实现,知识与信息的存储表现为网络元件互相分布式的物理联系。
神经网络的学习和识别取决于各种神经元连接权系数的动态演化过程。
假如干神经元连接成网络,其中的一个神经元可以承受多个输入信号,按照一定的规如此转换为输出信号。
由于神经网络中神经元间复杂的连接关系和各神经元传递信号的非线性方式,输入和输出信号间可以构建出各种各样的关系,因此可以用来作为黑箱模型,表达那些用机理模型还无法准确描述、但输入和输出之间确实有客观的、确定性的或模糊性的规律。
因此,人工神经网络作为经验模型的一种,在化工生产、研究和开发中得到了越来越多的用途。
生物神经元
人脑大约由1012个神经元组成,神经元互相连接成神经网络。
神经元是大脑处理信息的根本单元,以细胞体为主体,由许多向周围延伸的不规如此树枝状纤维构成的神经细胞,其形状很像一棵枯树的枝干。
它主要由细胞体、树突、轴突和突触(Synapse,又称神经键)组成。
如图1所示。
图1生物神经元
从神经元各组成局部的功能来看,信息的处理与传递主要发生在突触附近。
当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度,即超过其阈值电位后,突触前膜将向突触间隙释放神经传递的化学物质。
人工神经元
归纳一下生物神经元传递信息的过程:
生物神经元是一个多输入、单输出单元。
常用的人工神经元模型可用图2模拟。
图2人工神经元〔感知器〕示意图
当神经元j有多个输入xi(i=1,2,…,m)和单个输出yj时,输入和输出的关系可表示为:
其中j为阈值,wij为从神经元i到神经元j的连接权重因子,f()为传递函数,或称激励函数。
人工神经网络的构成
神经元的模型确定之后,一个神经网络的特性与能力主要取决于网络的拓扑结构与学习方法。
神经网络连接的几种根本形式:
1〕前向网络
前向网络结构如图3所示,网络中的神经元是分层排列的,每个神经元只与前一层的神经元相连接。
神经元分层排列,分别组成输入层、中间层〔也称为隐含层,可以由假如干层组成〕和输出层。
每一层的神经元只承受来自前一层神经元的输入,后面的层对前面的层没有信号反响。
输入模式经过各层次的顺序传播,最后在输出层上得到输出。
感知器网络和BP网络均属于前向网络。
图3前向网络结构
2〕从输出到输入有反响的前向网络
其结构如图4所示,输出层对输入层有信息反响,这种网络可用于存储某种模式序列,如神经认知机和回归BP网络都属于这种类型。
图4有反响的前向网络结构
3)层内互连前向网络
其结构如图5所示,通过层内神经元的相互结合,可以实现同一层神经元之间的横向抑制或兴奋机制。
这样可以限制每层内可以同时动作的神经元素,或者把每层内的神经元分为假如干组,让每一组作为一个整体进展运作。
例如,可利用横向抑制机理把某层内的具有最大输出的神经元挑选出来,从而抑制其他神经元,使之处于无输出状态。
图5有相互结合的前向网络结构
4)相互结合型网络
相互结合型网络结构如图6所示,这种网络在任意两个神经元之间都可能有连接。
Hopfield网络和Boltzmann机均属于这种类型。
在无反响的前向网络中,信号一旦通过某神经元,该神经元的处理就完毕了。
而在相互结合网络中,信号要在神经元之间反复传递,网络处于一种不断变化状态的动态之中。
信号从某初始状态开始,经过假如干次变化,才会达到某种平衡状态。
根据网络的结构和神经元的特性,网络的运行还有可能进入周期振荡或其他如混沌平衡状态。
图6结合型网络结构
综上,可知神经网络有分层网络、层内连接的分层网络、反响连接的分层网络、互连网络等四种结构,其神经网络模型有感知器网络,线性神经网络,BP神经网络,径向基函数网络,反响神经网络等,本文主要学习研究了BP神经网络,以与BP神经网络在函数逼近和样本含量估计两个实例中的应用分析。
2.2BP神经网络与其原理
BP神经网络定义
BP(BackPropagation)神经网络是一种神经网络学习算法。
其由输入层、中间层、输出层组成的阶层型神经网络,中间层可扩展为多层。
相邻层之间各神经元进展全连接,而每层各神经元之间无连接,网络按有教师示教的方式进展学习,当一对学习模式提供应网络后,各神经元获得网络的输入响应产生连接权值〔Weight〕。
然后按减小希望输出与实际输出误差的方向,从输出层经各中间层逐层修正各连接权,回到输入层。
此过程反复交替进展,直至网络的全局误差趋向给定的极小值,即完成学习的过程。
BP神经网络模型与其根本原理
BP网络是一种多层前馈神经网络,由输入层、隐层和输出层组成。
图7为一个典型的三层BP网络的拓扑结构,层与层之间采用全互连方式,同一层之间不存在相互连接,隐层可以有一层或多层。
层与层之间有两种信号在流通:
一种是工作信号(用实线表示),它是施加输入信号后向前传播直到在输出端产生实际输出的信号,是输入和权值的函数。
另一种是误差信号(用虚线表示),网络实际输出与期望输出间的差值即为误差,它由输出端开始逐层向后传播。
BP网络的学习过程程由前向计算过程和误差反向传播过程组成。
在前向计算过程中,输入量从输入层经隐层逐层计算,并传向输出层,每层神经元的状态只影响下一层神经元的状态。
如输出层不能得到期望的输出,如此转入误差反向传播过程,误差信号沿原来的连接通路返回,逐次调整网络各层的权值和阈值,直至到达输入层,再重复向计算。
这两个过程一次反复进展,不断调整各层的权值和阈值,使得网络误差最小或达到人们所期望的要求时,学习过程完毕。
图7 典型Bp网络模型
生物神经元信号的传递是通过突触进展的一个复杂的电化学等过程,在人工神经网络中是将其简化模拟成一组数字信号通过一定的学习规如此而不断变动更新的过程,这组数字储存在神经元之间的连接权重。
网络的输入层模拟的是神经系统中的感觉神经元,它接收输入样本信号。
输入信号经输入层输入,通过隐含层的复杂计算由输出层输出,输出信号与期望输出相比拟,假如有误差,再将误差信号反向由输出层通过隐含层处理后向输入层传播。
在这个过程中,误差通过梯度下降算法,分摊给各层的所有单元,从而获得各单元的误差信号,以此误差信号为依据修正各单元权值,网络权值因此被重新分布。
此过程完成后,输入信号再次由输入层输入网络,重复上述过程。
这种信号正向传播与误差反向传播的各层权值调整过程周而复始地进展着,直到网络输出的误差减少到可以承受的程度,或进展到预先设定的学习次数为止。
权值不断调整的过程就是网络的学习训练过程。
BP神经网络的信息处理方式具有如下特点:
1〕信息分布存储。
人脑存储信息的特点是利用突触效能的变化来调整存储内容,即信息存储在神经元之间的连接强度的分布上,BP神经网络模拟人脑的这一特点,使信息以连接权值的形式分布于整个网络。
2)信息并行处理。
人脑神经元之间传递脉冲信号的速度远低于冯·
诺依曼计算机的工作速度,但是在很多问题上却可以做出快速的判断、决策和处理,这是由于人脑是一个大规模并行与串行组合的处理系统。
BP神经网络的根本结构模仿人脑,具有并行处理的特征,大大提高了网络功能。
3〕具有容错性。
生物神经系统局部不严重损伤并不影响整体功能,BP神经网络也具有这种特性,网络的高度连接意味着少量的误差可能不会产生严重的后果,局部神经元的损伤不破坏整体,它可以自动修正误差。
这与现代计算机的脆弱性形成鲜明比照。
4〕具有自学习、自组织、自适应的能力。
BP神经网络具有初步的自适应与自组织能力,在学习或训练中改变突触权值以适应环境,可以在使用过程中不断学习完善自己的功能,并且同一网络因学习方式的不同可以具有不同的功能,它甚至具有创新能力,可以开展知识,以至超过设计者原有的知识水平。
2.3BP神经网络的主要功能
目前,在人工神经网络的实际应用中。
绝大局部的神经网络模型都采用BP神经网络与其变化形式。
它也是前向网络的核心局部,表现了人工神经网络的精华。
BP网络主要用于以下四方面。
〔1〕函数逼近:
用输入向量和相应的输出向量训练一个网络以逼近一个函数。
〔2〕模式识别:
用一个待定的输出向量将它与输入向量联系起来。
〔3〕分类:
把输入向量所定义的适宜方式进展分类。
〔4〕数据压缩:
减少输出向量维数以便传输或存储。
系统状态方程复杂的非线性系统,难以用数学方法准确建模。
在这种情况下,可以建立BP神经网络表达这些非线性系统。
该方法把未知系统看成是一个黑箱,首先用系统输入输出数据训练BP神经网络,使网络能够表达该未知函数,然后就可以用训练好的BP神经网络预测系统输出。
先取出假如干组系统的输入输出数据对BP网络进展有效学习,然后就可以用BP网络来表达这个系统,在知道系统输入参数的情况下,可以网络来预测系统的输出值。
本案例就是用BP网络来拟合一个标准测试函数,来说明BP网络的拟合能力,并探讨了BP网络在使用中注意的几个问题。
本案例拟合的非线性函数为
y=x1^2+x2^2
基于BP神经网络的非线性函数拟合算法流程可以分为BP神经网络构建、BP神经网络训练和BP神经网络预测三步。
BP神经网络模块构建中确定神经网路的结构以与学习方式,根据拟合函数的形式,采用神经网络的格式为:
输入层有两个节点,输出层有一个节点,隐含层有五个节点,隐含层传递函数是‘tansig’函数,输出层传递函数是‘purlin’函数。
BP神经网络构建根据拟合非线性函数特点确定BP神经网络结构,由于该非线性函数有两个输入参数,一个输出参数,所以BP神经网络结构即输入层有2个结点,中间层有5个结点,输出层有1个结点。
BP神经网络训练用非线性函数输入输出数据训练神经网络,使训练后的网络能够预测非线性函数输出。
从非线性函数中随机得到2000组输入输出数据,从中随机选择1900组作为训练数据,用于网络训练,100组作为测试数据,用于测试网络的拟合性能。
神经网络预测用训练好的网络预测函数输出,并对预测结果进展分析。
BP网络来拟合一个函数,说明BP网络在函数拟合中的作用。
训练好的数据对网络性能进展预测,从而判断网络拟合函数效果。
3.3MatLab实现
1.BP神经网络工具箱函数
Matlab软件中包含Matlab神经网络工具箱。
它是以人工神经网络理论为根底,用Matlab语言构造出了该理论所涉与的公式运算、矩阵操作和方程求解等大局部子程序以用于神经网络的设计和训练。
用户只需根据自己的需要调用相关的子程序,即可以完成包括网络结构设计、权值初始化、网络训练与结果输出等在内的一系列工作,免除编写复杂庞大程序的困扰。
目前,Matlab神经网络工具包包括的网络有感知器、线性网络、BP神经网络、径向基网络、自组织网络和回归网络等。
BP神经网络主要用到newff、sim和train3个神经网络函数,各函数解释如下。
1、newff:
BP神经网络参数设置函数
函数功能:
构建一个BP神经网络。
函数形式:
net=newff〔P,T,S,TF,BTF,BLF,PF,IPF,OPF,DDF〕
P:
输入数据矩阵。
T:
输出数据矩阵。
S:
隐含层结点数。
TF:
结点传递函数,包括硬限幅传递函数hardlim,对称硬限幅传递函数hardlims,线性传递函数pureline,正切S型传递函数tansig,对数S型传递函数logsig。
BTF:
训练函数,包括梯度下降BP算法训练函数traingd,动量反传的梯度下降BP算法训练函数traingdm,动态自适应学习率的梯度下降BP算法训练函数traingda,动量反传和动态自适应学习率的梯度下降BP算法训练函数traingdx,Levenberg_Marquardt的BP算法训练函数trainlm。
BLF:
网络学习函数,包括BP学习规格learngd,带动量项的BP学习规如此learngdm。
PF:
性能分析函数,包括均值绝对误差性能分析函数mae,均方差性能分析函数mse。
IPF:
输入处理函数。
OPF:
输出处理函数。
DDF:
验证数据划分函数。
一般在使用过程中设置前面6个参数,后面4个参数采用系统默认参数。
2、train:
BP神经网络训练函数
用训练数据训练BP神经网络。
[net,tr]=train〔NET,X,T,Pi,Ai〕
NET:
待训练网络。
X:
输入数据。
输出数据。
Pi:
初始化输入层条件。
Ai:
初始化输出层条件。
net:
训练好的网络。
tr:
训练过程记录。
一般在使用过程中设置前面3个参数,后面2个参数采用系统默认参数。
3、sim:
BP神经网络预测函数、
用训练好的BP神经网络预测函数输出。
y=sim〔net,x〕
x:
y:
网络预测数据。
2.实验结果:
实际输出数据和神经网络的预测输出之间的结果比照图
优势分析:
神经网络预测模块既用训练好的数据对网络性能进展预测,从而判断网络拟合函数效果。
参考文献:
[1]李晓慧.《基于MATLAB的BP神经网络的应用》[J].科技信息,2010,(26)
[2]郝中华.《BP神经网络的非线性思想》.某某师X学院学报2008.3(4)
[3]X玲,X钹.《人工神经网络理与应用》.某某:
某某科技大学,1997.5:
20-62
[4]蒋宗礼.《人工神经网络导论》.高等教育,2001.5:
15-90
[5]闻新、周露、王丹力、熊晓英.《MATLAB神经网络应用设计.科学》,2001.5:
10-50
[6]葛哲学、孙志强编著.《神经网络与matlab2007实现》.:
电子工业,2007.9:
1-5
附录:
程序代码:
%%清空环境变量
clc
clear
%%训练数据预测数据提取与归一化
%导入输入输出数据
loaddatainputoutput
%从1到2000间随机排序
k=rand(1,2000);
[m,n]=sort(k);
%随机选择1900组训练数据和100组预测数据
input_train=input(n(1:
1900),:
)'
;
output_train=output(n(1:
1900));
input_test=input(n(1901:
2000),:
output_test=output(n(1901:
2000));
%训练数据归一化
[inputn,inputps]=mapminmax(input_train);
[outputn,outputps]=mapminmax(output_train);
%%BP网络训练
%初始化BP网络结构
net=newff(inputn,outputn,5);
%网络参数配置〔迭代次数、学习率、目标〕
net.trainParam.epochs=100;
net.trainParam.lr=0.1;
net.trainParam.goal=0.00004;
%网络训练
net=train(net,inputn,outputn);
%%BP网络预测
%预测数据归一化
inputn_test=mapminmax('
apply'
input_test,inputps);
%网络预测输出
an=sim(net,inputn_test);
%网络输出反归一化
BPoutput=mapminmax('
reverse'
an,outputps);
%%结果分析
figure
(1)
plot(BPoutput,'
:
og'
)
holdon
plot(output_test,'
-*'
);
legend('
预测输出'
'
期望输出'
title('
BP网络预测输出'
f
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能导论 人工智能 导论 课程 研究 报告 材料 总结