共轭梯度法和基本性质.docx
- 文档编号:2086664
- 上传时间:2022-10-26
- 格式:DOCX
- 页数:10
- 大小:217.62KB
共轭梯度法和基本性质.docx
《共轭梯度法和基本性质.docx》由会员分享,可在线阅读,更多相关《共轭梯度法和基本性质.docx(10页珍藏版)》请在冰豆网上搜索。
共轭梯度法和基本性质
共轭梯度法及其基本性质
预备知识
定义1设吐竺是对称正定矩阵。
称回凹是A-共轭的,是指
況如=0,PlAp^>opp^Apy>0
性质1设有怡久…化⑶s)l是彼此共轭的即维向量,即
则鬥心諾一定是线性无关的
[证明]若有一组数1%■…心討满足
则对一切P=°」旳一定有
^=Pi+・・・+=应住;^Pir
是线性无关的.
性质2设向量国"弧…厨諾是线性无关的向量组,则可通过它们的线性组合
得出一组向量冋丿“…护討,而|円貯,…申詞是两两共轭的.
[证明]我们用构造法来证实上面的结论.
取Pl二El+%弘
J«-L
=耳十另込涎羽•
容易验证:
列…&胡符合性质2的要求.
性质3设1%几…护』是两两A—共轭的,怜已必是任意指定的向量,那么从囲出发,逐次沿方向应1「…化|搜索求际/加-能旬的极小值,所得序列k"i,满足:
Jt-i
Z=心+乞碍耳,
id
[证明]由下山算法可知,从二出发,沿2方向搜索,获得
从而
Jl-1Jl-1
矶=卜闵^戸匕j+工霭耳=-=咼ma1亠;z
性质4设兀乃;匚几-』是两两A共轭的,则从任意指定的注門出发,依次
沿弘山「'"mi搜索,所得序列kJz满足:
(1)
(2)或,其中曰是方程组(5.1.1)的解.
[证明]
(1)是性质3的直接推论,显然成立.
(2)由于是两两A共轭的,故血“,…申”11是线性无关的.所以对于向量卜一咄可用…申』线性表出,即存在一组数Rof■经J使
M-1
屁=航+23弼
1-0
由于
,得出
6%
Po^Po
F]P\
对比区]和的表达式可知,I©二兀
证明完毕
性质4是性质3的直接推论.但它给出了一种求(5.1.1)的算法,这种算法称之为共轭方向法•结合性质2,我们可以得到如下的性质5.
性质5设陽卧…是丽上的一组线性无关的向量,则从任意指定的
S2:
计算
如此进行下去,直到第n步:
nM-l-TA
久一1如一1
,得出
心二U+
计算
显然:
根据性质4可知,不论采用什么方法,只要能够构造个两两A共轭的向量
作为搜索方向,从任一初始向量出发,依次沿两两A共轭的方向进行搜索,经門步迭代后,便可得到正定方程组匡可的解.
共轭梯度法
算法步骤如下:
[预置步]任意如三兰I,计算并令取:
肚込J指定算法终止常数置肛=d|,讲入主步;
[主步]
(1)如果%终止算法,输出丈列;否则下行;
(2)计算:
上rL^Apj,r
(3)计算:
(4)置出弓丘可,转入
(1)
定理5.2.1由共轭梯度法得到的向量组丄和二具有如下性质:
[证明]用归纳法•当时,因为
Po二巾”h二円二G+AjFu
?
卩詁=耐广1=M(%-%期0)=币6—Cfp;山刊=5
因此定理的结论成立.现在假设定理的结论对冋成立,我们来证明其对曰也成立.
利用等式n】二G一及归纳假设,有
P訂如二於%-%云旳\二0OWi三上1.
又由于
故定理的结论
(1)对比+1|成立.
利用归纳假定有
如毗•・・・/』=零诚%TvPtK
而由
(1)所证知,二与上述子空间正交,从而有定理的结论
(2)对__也成立.
利用等式
p如二厂屏1+久刃|和二疗.丐母)
并利用归纳法假定和
(2)所证之结论,就有
=丄咕仮一加)+屁分如「心CU…上-1
成立;而由円的定义得
厂厂Ap
3=阳5"如=丘如一弟訂%=°
这样,定理的结论(3)对U也成立.
由归纳法假定知
"Pl已口月町用+1)二网血{心乂勺昇
进而
如e昭蜩⑷°F乂%「…]ut如才%r-»rAMru]
于是
rui=〔一叫金匕eK(AfrG+2)=spa^tArQr^^\
%LS+伙刃齐(恥屛4习=宰期h川七1
再注意到
(2)和(3)所证的结论表明,向量组hf宀j和”"戸“1'"险1都是线性无关的,因此定理的结论(4)对匸U同样成立.
定理证毕
定理521表明,向量「「引和|弘,W「珂|分别是Krylov子空间空如匕也的正交基和共轭正交基.由此可见,共轭梯度法最多明步便可得到
方程组的解二.因此,理论上来讲,共轭梯度法是直接法.
定理5.2.2用共轭梯度法计算得到的近似解U满足
义的Krylov子空间.
证明注意到:
”⑶斗疋也=広一忌)。
仗一叭)L则(5.2.2)和(523)是等价的,因此我们下面只证明(5.2.3)成立.
假定共轭梯度法计算到囚步出现亡q,那么有
=心十%Po+%Pi+…+场
此外,对计算过程中的任一步S,有
“二%+珂戸Q+・・・+0£—戸1E可+忙(&如妨
设匡]是属于皿+xCVoQ」的任一向量,贝q由定理5.2.1的(4)知,罔可以表示为
兀=%+氏珂+CP]+・・・+畑%1
?
于是
凡一工二(珂一旳)肌+(內一班)丹+…+9—-抡7)戸辰1+勺尸上+…+空刈刃-】r
心一耳二空丘严Jt+・・・+丐“尹
?
再利用定理521的(3)就可以推出
二||(茂o—打)卩0+…+〔Qjw
于是定理得证.
定理证毕
由定理5.2.1,我们容易得出
rui4^jt-—圧心-^L-i)-Vdl+i,
由此可得
(524)
从而,我们得到如下实用的共轭梯度算法:
止常数止也,置肌也,进入主步;
(2)如果血也,转入(3).否则,终止算法,输出计算结果£
跟产g+z?
s;
(3)计算:
(4)置限二丘十1|,转入
(1)
注:
在算法[主步]中,弓I入变量卜二令'』,P=及P二圧旳叙|,可以简
化计算。
结合程序设计的特点,共轭梯度法可改为如下实用形式:
算法5・3・1(解对称正定方程组:
实用共轭梯度法)
while»耳1Jand卜*也)1
else
end
>V=Ap;a-pf^T^,JT=x十¥r=r-GfW,p=p=rrr
end
共轭梯度法作为一种实用的迭代法,它主要有下面的优点:
算法中,系数矩阵A的作用仅仅是用来由已知向量—产生向量iE三迦],这不仅可充分利用A的稀疏性,而且对某些提供矩阵A较为困难而由已知向量円产生向量M二血|又十分方便的应用问题是很有益的;
不需要预先估计任何参数就可以计算,这一点不像SOR等;每次迭代所需的计算,主要是向量之间的运算,便于并行化
523收敛性分析
将共轭梯度法作为一种迭代法,它的收敛性怎样呢?
这是本节下面主要讨论的问题:
定理523如果出=』+刃而且忖朋国三二1,则共轭梯度法至多迭代匚£0步即可得到方程组的精确解。
证明注意到W沽⑻"蕴含着子空间
的维数不会超过卜+11,由定理5.2.1即知定理的结论成立
定理证毕
定理5•2•3表明,若线性方程组(5•1•1)的系数矩阵与单位相关一个秩□的矩阵,而且□很小时,则共轭梯度法将会收敛得很快。
定理5•2•4用共轭梯度法求得的丄有如下的误差估计
(5-2-5)
证明由定理5•2•1可知,对任意的产巩儿巾崗|,有
=卫‘(虫心-占两)十僅石丄巾+口匂力‘6H—十負屈丄%0)
=£“心+张扣口+亞显%"I4%川%)
=j4-1(2+%£+%才4细川*
所有常数项为1的次数不超过訂的实系数多项式的全体,则由定理5・2・2和引
理5•1•1得
A4—至IL二mint]"—恥ILr已九十k(几®对]=戸渕片九〔测L=舲恢")川让兰禺腊X®Mm兰成髦般K训氐f
其中°-人…喳心—E是国]的特征值。
由Chebyshev多项式逼近定理及
Chebyshev多项式的性质,定义在[-1,1]区间上的二次Chebyshev多项式:
空二竺竺凹是所有常数项为1的次数不超过囤的实系数多项式中,在[-1,
1]上与“0”的偏差值最小的多项式。
且偏差值为1,对应的交错点组为:
阳=cos—j=0丄上
匸。
因此,多项式
于是,我们有
因此,定理得证
定理证毕
虽然定理5•2•5所给出的估计是十分粗糙的,而且实际计算时其收敛速度往往要比这个估计快得多,但是它却提示了共轭梯度法的一个重要的性质:
只要线性方程组(5•1•1)的系数矩阵是十分良态的(即应可),则共轭梯度法
就会收敛的很快。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 共轭 梯度 基本 性质
![提示](https://static.bdocx.com/images/bang_tan.gif)