回归分析方法文档格式.docx

回归分析方法文档格式.docx

《回归分析方法文档格式.docx》由会员分享，可在线阅读，更多相关《回归分析方法文档格式.docx（17页珍藏版）》请在冰豆网上搜索。

运用一般计算语言编程也要占用大量时间，而对于经济管理及社会学等对高级编程语言了解不深的人来说要应用这些统计方法更是不可能。

MATLAB等软件的开发和普及大大减少了对计算机编程的要求，使数据分析方法的广泛应用成为可能。

MATLAB统计工具箱几乎包括了数理统计方面主要的概念、理论、方法和算法。

运用MATLAB统计工具箱，我们可以十分方便地在计算机上进行计算，从而进一步加深理解，同时，其强大的图形功能使得概念、过程和结果可以直观地展现在我们面前。

本章内容通常先介绍有关回归分析的数学原理’主要说明建模过程中要做的工作及理由’如模型的假设检验、参数估计等，为了把主要精力集中在应用上，我们略去详细而繁杂的理论。

在此基础上再介绍在建模过程中如何有效地使用MATLAB软件。

没有学过这部分数学知识的读者可以不深究其数学原理，只要知道回归分析的目的，按照相应方法通过软件显示的图形或计算所得结果表示什么意思，那么，仍然可以学到用回归模型解决实际问题的基本方法。

包括：

一元线性回归、多元线性回归、非线性回归、逐步回归等方法以及如何利用MATLAB软件建立初步的数学模型，如何透过输出结果对模型进行分析和改进，回归模型的应用等。

一元线性回归分析

回归模型可分为线性回归模型和非线性回归模型。

非线性回归模型是回归函数关于未知参数具有非线性结构的回归模型。

某些非线性回归模型可以化为线性回归模型处理；

如果知道函数形式只是要确定其中的参数则是拟合问题，可以使用MATLAB软件的curvefit命令或nlinfit命令拟合得到参数的估计并进行统计分析。

本节主要考察线性回归模型。

一元线性回归模型的建立及其MATLAB实现其中几，A是待定系数，对于不同的兀』是相互独立的随机变量。

假设对于兀的n个值孟，得到y的n个相应的值”，确定炕，Q的方法是根据最小

二乘准则，要使

取最小值。

利用极值必要条件令孚=0,孚=0,求几，人的估计值九，从而得到回归直线,y=A+A-Vo只不过这个过程可以由软件通过直线拟合完成，而无须进行繁杂的运算。

（1）参数的区间估计

由于我们所计算出的九，A仍然是随机变量，因此要对九，A取值的区间进行估

计，如果区间估计值是一个较短的区间表示模型精度较高。

（2）对误差方差的估计

设记为回归函数的值，儿为测量值，残差平方和

剩余方差r=-^-

n-2

（3）线性相关性的检验

由于我们采用的是一元线性回归，因此，如果模型可用的话，应该具有较好的线性关系。

反映模型是否具有良好线性关系可通过相关系数R的值及F值观察（后面的例子说明）O

（4）一元线性回归的MATLAB实现

MATLABT具箱中用命令regress实现，其用法是：

b=regress（y,x）

[b,bint,r,rint,s]=regress（y,x,alpha）

输入y（因变量，列向量）、x（1与自变量组成的矩阵，见下例）,alpha是显着性水平（缺省时默认）。

输出b'

注意：

b中元素顺序与拟合命令polyfit的输出不同，bint是0（”Q的置信区间，「是残差（列向量），山“是残差的置信区间，s包含4个统计量：

决定系数F（相关系数为R）；

尸值；

F（l,n-2）分布大于F值的概率p；

剩余方差川的值（以后版本）o“也可由程序sum（r42）/（n-2）计算》

其意义和用法如下：

F的值越接近1,变量的线性相关性越强，说明模型有效；

如果满足2）<

F,则认为变量y与x显着地有线性关系，其中斥/I,”-2）的值可查F分布表，或直接用MATLAB命令finv（l-«

l,n-2）i+算得到；

如果p<

a表示线性模型可用。

这三个值可以相互印证。

芒的值主要用来比较模型是否有改进，其值越小说明模型精度越高。

例1测得16名成年女子身高y与腿长x所得数据如下：

表8-116名女子身高（cm）腿长（cm）数据

8885889192939395969897969899100102

143145146147149150153154155156157158159160162164

首先利用命令plot（x,y；

r*'

）画出散点图，从图形可以看出，这些点大致分布在一条直线的左右，因此，可以考虑一元线性回归。

可编制程序如下：

y=[143145146147149150153154155156157158159160162164];

x=[8885889192939395969897969899100102];

n=16;

X=[ones（n,l）,x,];

[b,bint5r,rint,s]=regress（y\X,;

b,bint,s,

rcoplot（nrint）

运行后得到

b=

bint=

s=

Ri二,由finv,1,14）=,即^_a（l,n-2）=<

F=,p<

可以通过残差图发现，第二个数据为奇异数据，去掉该数据后运行后得到

/=,由finvj,13）=,即F1_a（ljJ-2）=<

F=pv,说明模型有效且有改进，因此我们得到身高与腿长的关系y=17.6549+1.4363“。

当然，也可以利用直线拟合得到同一方程。

只不过不能得到参数置信区间和对模型进行检验。

拟合程序如下：

y二[143145146147149150153154155156157158159160162164];

a=polyfit（x,y,l）

temp=polyval（a,x）;

plot（x,y,'

r*\x,temp）

函数相同，但输出一次函数参数顺序与回归分析（升鬲排列）中不同。

另一个差别是拟合不能发现奇异数据。

8.2多元线性回归分析

多元线性回归模型的建模步骤及其MATLAB实现

如果根据经验和有关知识认为与因变量有关联的自变量不止一个，那么就应该考虑用最小二乘准则建立多元线性回归模型。

设影响因变量y的主要因素（自变量）有m个，记x=…,心），假设它们有如下的

线性关系式：

y=0o+0內+•••+"

届+£

£

~N（0,b‘）

如果对变量y与自变量再宀,同时作n次观察（n>

m）得n组观察值，采用最小二乘估计求得回归方程

帀久+点西+…+介兀”•

建立回归模型是一个相当复杂的过程，概括起来主要有以下几个方面工作

（1）根据研究目的收集数据和预分析；

（2）根据散点图是否具有线性关系建立基本回归模型；

（3）模型的精细分析；

（4）模型的确认与应用等。

收集数据的一个经验准则是收集的数据量（样本容量）至少应为可能的自变量数目的6~10倍。

在建模过程中首先要根据所研究问题的目的设置因变量，然后再选取与该因变量有统计关系的一些变量作为自变量。

我们当然希望选择与问题关系密切的变量，同时这些变量之间相关性不太强，这可以在得到初步的模型后利用MATLAB软件进行相关性检验。

下面通过一个案例探讨MATLAB软件在回归分析建模各个环节中如何应用。

多元线性回归的MATLAB实现

仍然用命令regress（y,X）,只是要注意矩阵X的形式，将通过如下例子说明其用法。

某类研究学者的年薪

1.问题

例2工薪阶层关心年薪与哪些因素有关，以此可制定出它们自己的奋斗目标。

某科学基金会希望估计从事某研究的学者的年薪Y与他们的研究成果（论文、着作等）的质量指标E、从事研究工作的时间矩、能成功获得资肋的指标&

之间的关系，为此按一定的实验设计方法调查了24位研究学者，得到如下数据（i为学者序号）：

表8-2从事某种研究的学者的相关指标数据

i

1

2

3

4

5

6

7

8

9

10

11

12

20

18

33

31

13

25

30

47

■

14

15

16

17

19

21

22

23

24

35

39

40

27

34

试建立Y与XPX2,X3之间关系的数学模型，并得出有关结论和作统计分析。

2.作出因变量Y与各自变量的样本散点图

作散点图的目的主要是观察因变量Y与各自变量间是否有比较好的线性关系，以便选择

恰当的数学模型形式。

下图分别为年薪Y与成果质量指标纸、研究工作时间X”获得资肋的指标X?

之间的散点图，

subplot（1f3r1）rplot（xlr'

g*'

）^

subplot（1,3,2）,plot（x2z'

k-'

）z

subplot（1,3,3）,plot（x3'

ro1）z

从图可以看出这些点大致分布在一条直线旁边，因此，有比较好的线性关系，可以采用线性回归。

Y与xl的散点图Y与x2的散点图Y与x3的散点图

图因变量Y与各自变量的样本散点图

3・利用MATLAB统计工具箱得到初步的回归方程

设回归方程为：

、=B\X、+B去B血•

建立m-文件输入如下程序数据：

xl=[]；

x2=[920183331132530547251123353921740352333273415];

x3=[]；

Y=[1；

n=24;

m=3;

X=[ones（n,l）,x1；

x2；

x3];

[b,bint,r,rint,s]=regress（Y\X,;

b,bint,r,rint,s,

运行后即得到结果如表8-3所示。

表&

3对初步回归模型的计算结果

回归系数

回归系数的估计值

回归系数的置信区间

[]

R2=F=p<

s2=

计算结果包括回归系数b=（几,0「几,几）二，且置信区间均不包含零点‘；

残差及其

置信区间；

统计变量stats