BP神经网络实例Word文件下载.docx

BP神经网络实例Word文件下载.docx

《BP神经网络实例Word文件下载.docx》由会员分享，可在线阅读，更多相关《BP神经网络实例Word文件下载.docx（15页珍藏版）》请在冰豆网上搜索。

（2）输入训练样本

，对每个样本进行（3）~（5）步。

（3）计算各个网络层的实际输出

（4）计算训练误差

，输出层

，隐含层和输入层

（5）修正权值和阈值

（6）当样本集中的所有样本都经历了（3）~（5）步后，即完成了一个训练周期（Epoch），计算性能指标

其中

。

（7）如果性能指标满足精度要求，即

，那么训练结束，否则，转到

（2），继续下一个训练周期。

是小的正数，根据实际情况而定，例如

3、流程图

根据BP网络的算法，我们可得流程图如下。

第二章BP神经网络实例分析

一、实例要求

1、

取九个点来训练网络，然后得出拟合曲线。

2、

取适当数量训练点来训练网络，然后得出拟合曲线

3、

取11*11个点来训练网络，并用21*21个点测试拟合的曲面。

二、计算结果如下

1、第一个函数：

（2）学习率为，训练次数为3300时

训练过程如学习曲线所示，圈圈为学习后产生的，折线为标准函数点连线。

检验过程如检验曲线所示，点序列为拟合曲线上的点，曲线为标准函数曲线。

误差曲线如右图所示。

（2）学习率为，训练次数为3300时的曲线。

从函数1可以看出，学习率比较大时，曲线收敛比较快，可以比较快速达到精度要求。

但实际上，学习率比较大时（即收敛步长比较大），容易超出收敛边界，反而收敛导致不稳定，甚至发散。

2、第二个函数：

（1）学习率为，样本点数为10，学习次数为5000时的曲线如下：

（2）学习率为，样本点数为30，学习次数为5000时的曲线如下：

从函数2可以看出，样本点个数越多时，曲线精度越高。

但学习时间会有所增加。

3、第三个函数

学习率为，动量项学习率为，训练次数为5000，训练样本数为11*11。

图形如下：

附：

程序源代码

第一个和第二个函数的程序：

%此BP网络为两层隐含层，每个隐含层4个节点。

输入输出各一层

%输入层和输出层均采用恒等函数，隐含层采用S形函数

clearall;

closeall;

b=;

%精度要求

a=;

%学习率

c=2;

Num=30;

%训练样本数

N=3300;

%训练次数

Nj=80;

%检验样本数

o0=rand（2,1）;

%输入层阈值

o1=rand（4,1）;

%第一层隐含层阈值

o2=rand（4,1）;

%第二层隐含层阈值

o3=rand（1,1）;

%输出层阈值

w1=rand（4,2）;

%输入信号为两个

w2=rand（4,4）;

%第一层隐含层与第二层隐含层的权系数

w3=rand（1,4）;

%第二层隐含层与输出层的权系数

symsxy;

%符号变量，用于两个输入值

%fcn=cos（x）;

%被学习的函数

fcn=abs（sin（x））;

x0=0:

2*pi/（Num-1）:

2*pi;

%输入的训练样本

y0=0:

x=x0;

y=y0;

X（1,:

）=x0;

X（2,:

）=y0;

yf=eval（fcn）;

%输出的训练样本

x3=zeros（1,Num）;

time=0;

forj=1:

1:

N

fori=1:

Num

%前向计算:

s1=w1*X（:

i）-o1;

x1=1./（1+exp（-s1））;

%第一层隐含层输出

s2=w2*x1-o2;

x2=1./（1+exp（-s2））;

%第二层隐含层输出

s3=w3*x2-o3;

%x3=1./（1+exp（-s3））;

%输出层输出

x3（i）=s3;

%反向计算：

%e3=（yf（i）-x3）./（exp（s3）+2+exp（-s3））;

%输出层误差

e3=yf（i）-x3（i）;

e2=（（w3）'

*e3）./（exp（s2）+2+exp（-s2））;

%第二层隐含层误差

e1=（（w2）'

*e2）./（exp（s1）+2+exp（-s1））;

%第一层隐含层误差

%权值和阈值修正

w3=w3+a*e3*（x2）'

;

%权值修正

w2=w2+a*e2*（x1）'

w1=w1+a*e1*（X（:

i））'

o3=o3-a*e3;

%阈值修正

o2=o2-a*e2;

o1=o1-a*e1;

end

E（j）=*（（yf-x3）*（yf-x3）'

）;

%方差

time=time+1;

%记录学习次数

ifE（j）<

b

break

end

end

%检验

m=0:

2*pi/（Nj-1）:

n=0:

x=m;

y=n;

ym=eval（fcn）;

%期望输出

M（1,:

）=x;

M（2,:

）=y;

m3=zeros（1,Nj）;

fori=1:

Nj

S1=w1*M（:

m1=1./（1+exp（-S1））;

S2=w2*m1-o2;

m2=1./（1+exp（-S2））;

%第二层隐含层输出

S3=w3*m2-o3;

%m3（i）=1./（1+exp（-S3））;

%输出层输出

m3（i）=S3;

figure

（1）;

plot（m,ym,'

g-'

holdon

plot（m,m3,'

r.'

title（'

检验曲线'

xlabel（'

x'

ylabel（'

y=cos（x）'

figure

（2）;

plot（x0,yf,'

b-'

plot（x0,x3,'

ro'

学习曲线'

y=cos（x）'

k=1:

time;

figure（3）;

plot（k,E）;

误差曲线'

训练次数'

误差值'

第三个函数的程序

%此BP网络为两层隐含层，每个隐含层10个节点。

%精度要求

c=;

%动量项学习率

Num=11;

N=5000;

Nj=21;

%检验样本数

%输入层阈值

o1=rand（10,1）;

o2=rand（10,1）;

%第二层隐含层阈值

%输出层阈值

w1=rand（10,2）;

%输入层与第一层隐含层的权系数

w2=rand（10,10）;

%第一层隐含层与第二层隐含层的权系数

w3=rand（1,10）;

o1_before=zeros（4,1）;

%用于存储前一次的阈值

o2_before=zeros（4,1）;

o3_before=zeros（1,1）;

w1_before=zeros（4,2）;

%用于存储前一次的权值

w2_before=zeros（4,4）;

w3_before=zeros（1,4）;

o1_next=zeros（4,1）;

%用于存储后一次的阈值

o2_next=zeros（4,1）;

o3_next=zeros（1,1）;

w1_next=zeros（4,2）;

%用于存储后一次的权值

w2_next=zeros（4,4）;

w3_next=zeros（1,4）;

[x0,y0]=meshgrid（-10:

20/（Num-1）:

10）;

%输入的训练样本

yf=（sin（x0）.*sin（y0））./（x0.*y0）;

x3=zeros（Num,Num）;

E=zeros（1,N）;

forh=1:

X=zeros（2,1）;

X（1,:

）=x0（i,h）;

X（2,:

）=y0（i,h）;

s1=w1*X-o1;

x3（i,h）=s3;

w3_next=w3+a*e3*（x2）'

+c*（w3-w3_before）;

w2_next=w2+a*e2*（x1）'

+c*（w2-w2_before）;

w1_next=w1+a*e1*X'

+c*（w1-w1_before）;

o3_next=o3-a*e3+c*（o3-o3_before）;

%阈值修正

o2_next=o2-a*e2+c*（o2-o2_before）;

o1_next=o1-a*e1+c*（o1-o1_before）;

w1_before=w1;

w2_before=w2;

w3_before=w3;

o1_before=o1;

o2_before=o2;

o3_before=o3;

w1=w1_next;

w2=w2_next;

w3=w3_next;

o1=o1_next;

o2=o2_next;

o3=o3_next;

d=yf（i,h）;

y=x3（i,h）;

E（j）=E（j）+*（（d-y）^2）;

%方差

%记录学习次数

ifE（j）<

break

[m,n]=meshgrid（-10:

（20/（Nj-1）:

ym=（sin（m）.*sin（n））./（m.*n）;

m3=zeros（Nj,Nj）;

forj=1:

M=zeros（2,1）;

M（1,:

）=m（i,j）;

M（2,:

）=n（i,j）;

S1=w1*M-o1;

m3（i,j）=S3;

%输出层输出

surf（x0,y0,yf）;

title（'

学习期望输出'

gridon;

surf（x0,y0,x3）;

学习实际输出'

subplot（221）;

surf（m,n,ym）;

检验期望输出'

subplot（222）;

surf（m,n,m3）;

检验实际输出'

subplot（212）;