线性回归分析法Word格式文档下载.docx
- 文档编号:19913677
- 上传时间:2023-01-12
- 格式:DOCX
- 页数:15
- 大小:214.33KB
线性回归分析法Word格式文档下载.docx
《线性回归分析法Word格式文档下载.docx》由会员分享,可在线阅读,更多相关《线性回归分析法Word格式文档下载.docx(15页珍藏版)》请在冰豆网上搜索。
对应于每一个因,根据回归直线方程式(2-3)可以求出一个回,它就是区]的一个估计值。
估计值和观测值之间的偏差要使模型的拟合状态最好,就是说要使凹个偏差平方和最小为标准来确定回归模型。
为了方便起见,记
A
y=Ba+A(2-4)
则式(2-1)用矩阵形式表示为
设冈为误差囚的负估值,称为匡]的改正数或残差,G为回归参数回的估值,则可以写出类似于参数平差的误差方程
V=Ba—y(2-5)
根据最小二乘原理|v7V=mmL求自由极值,得
=2VjB=0
da
即BrV=0(2-6)
将误差方程(2-5)代入,即得法方程为
BTBa=BTy(2-7)
记
■—
~—n
BJB=
nnx
—一2nxSxx+nx
BTy=
sXy+nxy
X
"
y
1
兀-抚
1
■■
Ls’,J
于是可得回归参数的最小二乘估值为
a=(BlBYBry(2-8)
参数q与®
的具体表达形式为
m=y%/s
(2-9)
a\=SxjS心
求出参数与忖以后,就可以得到一元线性回归模型
AAA
y=«
0+x(2-10)
山此,只要给定了一个因值,就可以根据回归模型求得一个胡作为实际值的预测值。
5•精度分析
对于给定的因,根据回归模型就可以求出冋的预测值。
但是用曲来预测匡]的精度如何,产生的误差有多大是我们所关心的。
这里釆用测量上常用的精度指标来度量回归方程的可靠性。
一个回归模型的精度或剩余标准离差定义式为
由于参数的个数是2,观测值总数是回,多余观测是阳可,因此式中分母是(〃-2)。
运用估计平均误差可以对回归方程的预测结果进行区间估计。
若观察值
有95.45%的点落在
围绕回归直线服从正态分布,且方差相等,则有68.27%的点落在囲的范围内,的范圉内,有99.73%的点落在|±
3b|的范围内。
根据参数平差理论可知,M的协因数矩阵为
4=何亦=丄[匕+応2)/〃-习(2_12)
gS”T1
从而,Hl的方差估值为
6•线性回归效果的显著性检验
对一元线性回归模型的统计检验包括两个内容:
一是线性回归方程的显著性
检验;
二是对回归系数进行统讣推断。
在一元线性回归分析中,线性回归效果的好坏取决于匡]与冈的线性关系是否密切。
若剧越大,因随因的变化趋势就越明显;
若剧越小,匡]随匡]的变化趋势就越不明显。
特别的,当h=o|时,意味着匡]与匡]之间不存在线性相关关系,所建立的线性回归方程没有意义。
所以,只有当|®
Ho|时,因与因之间才有线性相关关系,所建立的线性回归方程才有实际意义。
因此,对线性回归效果好坏的检验,就归结为对统计假设冋:
舛=0;
耳:
旳工0|的检验。
若拒绝回,就认为线性回归有意义;
若不能拒绝回,就认为线性回归无意义。
下面介绍两种检验方法:
匡]检验法和相关系数检验法。
1•回检验法
进行F检验的关键在于确定一个合适的统计量及其所服从的分布。
当原假设成立时,根据F分布的定义可知
(2-14)
当给定显著性水平0=0.05或0.01,由F分布分位数值表得临界值7a(I,"
-2)|,曲样本观测值计算出统计量F的实测值。
若|Fnf;
p(l丿-2)1,则
以显著水平叵]拒绝囤;
若f<札(1,“-2)|则以显著水平叵]接受闷。
一般按下述标准判断。
(1)若卩沁9(1/-列,则认为线性回归方程效果极显著。
(2)若|®
95(1,—2)SFv®
99(1,—2)|,则认为线性回归方程效果显著。
(3)若卩5』丿呵,则认为线性回归效果不显著。
2.相关系数检验法
相关系数检验法是通过因与因之间的相关系数对回归方程的显著性进行检验的,由样本观测值,即陆,”)心,儿),…儿)|,可以得到相关系数的实测值为
相关系数|0"
列,现作如下进一步分析。
(1)当巨]时,|5xv=0|,因而|q=0|,此时线性回归方程$=总+&
;
=山,表明因与囚之间不存在线性相关关系。
(2)当|0<
lrl<
l|W,匡]与冈之间存在一定的线性相关关系,当匸迈]时,h>
o|,
此时称匡]与因正相关:
'
||广<
0|时,I®
此时称匡]与因负相关;
当阿越
接近于0时,此时因与因的线性关系越微弱;
当回越接近于1时,此时因与囚的线性关系越强。
(3)当0]二1时,匡]与因完全线性相关,表明匡]与因之间存在确定的线性函数
关系;
当=1时,称匡]与因正相关;
当=1时,称因与因负相关。
当给定显著性水平[£
>
0.05或0.01,由
P(lrl<
^(/i-2))=1-a(2-16)
来判断线性回归方程的效果。
若本观测值算出的相关关系实测值|虫j(—2)则以显著性水平的关系叵]拒绝囤;
若卩"
虫(—2)|,则以显著性水平的关系叵]接受回。
一般按下述标准判断。
(1)若匕込如辺则认为线性回归方程效果极显著。
(2)若血血-2)—<
如(_2)|,则认为线性回归方程效果显著。
(3)若卜<
仏(“-2)|,则认为线性回归效果不显著。
临界值r,_a(//-2)可由下式确定
切虫(1,幵一2)
斤a(l,"
-2)+(八一2)
7.[实例解算]
设某线性回归问题的自变量冋和观测值冈的数据如表2-1所示,试求其回归方
程。
表2J
序号
2
3
4
5
6
7
8
9
10
25
27
29
32
34
36
35
39
42
45
2.8
2.9
3.2
3.4
3.3
3.7
3.9
4.2
[解]
⑴回归方程的建立。
由表中数据计算得
S-Ulj=Xv-hx2=12208-10x1183.36=372.4J=1(=i
\y=fb•-丸”-y)=1>必-nxy=1186.9-1162.72=24.18r=l/=!
&
=亍一。
]1=3・38-0・06493x34.4=1.1464于是,就得到一元线性回归模型
y=1.1464+0.06493x
计算j值。
结果列于表2-2中。
表2・2
nq
V/
2.77
2.90
3.03
3.22
3.35
3.48
3.42
3.68
3.87
4.07
i
0.03
0.00
0.17
-0.02
0.05
-0.28
-0.12
0.02
0」3
⑵精度评定
——单位权中误差为
1口
|2」。
严0.134
回归方程系数中误差计算如下。
Hl的权倒数
Ir134411
Q—=0.192,0=——==0.0027
5nS“10372.45S“372.4
目的方差估值为
a2人21
“•0034q-o-=0.010=4.84x10-
其中误差为
=0.059s=0.022
⑶显著性检验设
原假设血:
4=0;
备选假设耳:
4工0
肖原假设为真时,有
因多余观测(自山度)是&
查表得佗阳(1,8)=11.26,显然F>
^w(h8),
假设不成立,所求得的线性回归效果极显著。
如果本例用相关系数检验法对线性回归效果进行显著性检验,可用式(2-15)计算,即
24.18
,•—:
SgS”
=-0.9565
^372.4x1.716
山式(2-17)计算相关系数临界值|皿-2)=0.765山于
r=0.9565>
0.765
故因与因的线性(正)相关关系极显著,此结果与F检验法得到的结论完全一致。
多元线性回归分析
2•数学模型
多元线性回归分析是研究一个因变量与多个自变量之间线性相关关系的统计分析方法。
多元线性回归考虑到多个自变量对因变量的影响,能够更真实地反映现象之间的相互关系。
假设一个随机变量冈与回个非随机变量因之间存在线性相关关系,则它们之间的关系可以用多元线性回归模型来表示,即
y=a0+alx}+a2x2+--+ainxin+M(3-1)
的参数,称为回归方程的系数。
囚是随机误差。
与一元线性回归模型类似,如果多元线性回归模型中的误差项囚服从正态性,并具有无偏性,则△〜"
(()&
),则
E(y)=%+“內+a2x2+…+amx>
(3-2)
E(y)=E(A)=a2
V~N
由此可见,
2•多元线性回归方程的确定
多元线性回归模型的参数区|(卩=0,1,2,…,加|)及囲在一般情况下都是未知数,必须根据样本观测数据来估计。
假设我们进行了回次观测,得回组观测数据(门切,…,“知),丿・=12・・・"
2。
它们应有的回归关系可写为
)?
i=5+d內]+他%+…+①心+△】
2=%++“2冬2+•••+5沫+A.
>
0(3-3)
儿=«
o+°
內“++・・•+%血+亠
y=
y.'
A=
A,-
A2
a=
B=
_1
X11
A12
X21
兀22
…
…几2
n
…爲
则式(3-3)用矩阵形式表示为
y=Ba+A(3-4)与其对应的误差方程为
V=Ba—y(3-5)
根据最小二乘原理|WV=min|,法方程为
B1Ba=Bry(3-6)于是可得回归参数的最小二乘估值为
当求出回归参数I"
“=0,1,2,…冲)|后,就可以得到多元线性回归模型
AAAAA
兀=兔+5召+“2®
+…+<
3-8)
山此,只要给定了冋的值,就可以根据回归模型求得E作为实际值冈的预测值。
3.精度分析
观测值个数是回,参数个数为匝多余观测为皿-(〃2+1加因此上式分母
为[〃一(〃7+1)
根据参数平差理论可知,12的协因数矩阵为
0=(刃3『(3-10)aa
从而,U]的方差估值为
(3-11)
至于目的方差,同样根据参数平差理论可得
4•多元线性回归效果的显著性检验
与一元线性回归模型一样,在得到多元线性回归模型以后也需要对模型中所包含的变量是否确实与因变量之间存在线性相关关系,以及回归模型的拟合效果如何进行分析检验。
主要考察卜心2,…,儿|与氐吃,…,心]是否具有线性相关关系,
即需要检验统讣假设
5=a2=-=am=0:
0:
®
©
…卫川不全为零
(3-13)
对于给定的显著性水平叵}若拒绝丹°
,就认为这个回元线性整体回归效果显著;
若不能拒绝囤,就认为这个回元线性整体回归效果不显著。
为了进行上述检验,关键在于确定一个合适的统计量及其所服从的分布,着眼于统计量,参考一元线性回归检验,多元线性回归整体检验统计量为
若卩<片虫(〃皿刁匚可,则以显著水平叵]接受囤。
需要指出的是,对于多元回归来说,线性回归效果仅说明冋,吆…如不全为零,但有可能接近于零。
也就是说,多元回归效果显著是就总体而言的,并不意味着各自变量区]对因变量冈的影响都是显著的,因此有必要从原来的回归方程
中剔除那些无显著性影响的自变量,重新建立更为理想的线性回归方程。
为此,在检验完整体回归效果显著之后,还必须就每个自变量区]对因变量冈的线性影响是否显著进行检验,其检验统计假设
H():
q=0
•
Hx:
qH0
(f=l,2,・・・,〃z)
(3-15)
对于多项式回归模型
Jl=5)+。
内+才+…+4用+、J
?
2=。
()++a2X2+…+amX2+亠
打(3-16)
()+4©
+勺£
+•••+5他+亠
只要设
-
一
•>
m
Z\2
…%
-V1
…再
^21
■
…Sm
=
-V2
X;
…X1"
Xn
…<
(3-17)
就可以按线性回归方法进行回归计算。
5•举例解算
以某楼A1点累讣沉降量为因变量,时间间隔和承受的荷载为自变量进行回归分析,设时间间隔为自变量XI,承受的荷载为自变量X2,累讣变化为因变量Y,利用EXCEL软件的一工具中回归分析功能进行回归分析。
经计算得到:
如下图的结果
方莘外析
Coefficimrr标准i天差tStatP-valueLover95%UDDer95%F限95.5上眼95.0%
Intercept-0.126130.144981时间间隔-0.019270.012163
-0.86999
-1.58471
0.401375
0.139017
-0・44202
-0.04578
0.189754
0.007226
-0.44202
-0.04572
荷载-0.108310.00992
-10.9176
1.38E-07-0.12992
-0.08669
-0.12992
观测值
预测累计下沉量
残差
标准残差
-0・234436657
0.234437
1.436152
-0・577709666
0.10571
0.647574
-0・660682437
0.076682
0.469754
-0.775045507
-0.05095
-0.31215
-0.860404639
-0.3106
-1.9027
-1.131167805
-0.22183
-1.35894
-1.412945297
-0.01005
-①06159
-1.536853813
-0.03215
-0.19693
-1.587335004
-0.05466
-0.33488
-1.765396154
0.051396
0.314851
11
-2.116929528
0.26493
1.622951
12
-2.167410719
0.207411
1.270592
13
-2・167410719
-0.02959
-0.18126
14
-2.148136028
-0.06386
-0.39123
15
-0.16686
-1.0222
可得出Y=-0.019Xr0.108X2-0.126
(1)回归方程的检验(F检验)通过回归分析可以知道,F统计量为101.782,取a=0.05,查F分布表可得到自由度为(pjpl)的临界值为Fo.o5(2,12)=3.89o显然地,F统计量远大于临界值,说明两个自变量联合起来对因变量有显著影响。
(2)回归系数的检验(t检验)从回归分析的结果可以看出,与时间间隔的参数所对应的t统计量为-2.585,承受的荷载的参数所对应的t统讣量为-10.918o取a=0.05,查t分布表可得ta/2(n-k)=t0,025(15-3)=2.178o与分析计•算的t统讣量想比较可知,两个自变量的参数所对应的t统计量的绝对值都大于临界值2.178,说明两个自变量对沉降量累计变化量的影响都是显著的。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 线性 回归 分析
![提示](https://static.bdocx.com/images/bang_tan.gif)