改进的粒子群优化算法APSO和DPSO分析研究.docx
- 文档编号:29657615
- 上传时间:2023-07-25
- 格式:DOCX
- 页数:28
- 大小:32.26KB
改进的粒子群优化算法APSO和DPSO分析研究.docx
《改进的粒子群优化算法APSO和DPSO分析研究.docx》由会员分享,可在线阅读,更多相关《改进的粒子群优化算法APSO和DPSO分析研究.docx(28页珍藏版)》请在冰豆网上搜索。
改进的粒子群优化算法APSO和DPSO分析研究
大连理工大学
硕士学位论文
改进的粒子群优化算法 姓名: 张英男 申请学位级别: 硕士 专业: 计算机应用技术 指导教师: 滕弘飞 20080601大连理工大学硕士学位论文 摘要 粒子群优化(PSO>算法由Kennedy和Eberhart于1995年提出,是群体智能优化方 法中具典型代表性的算法,具有广泛的应用领域,例如神经网络训练,工程优化等。 PSO的基本思想是群体中的每一个成员通过学习患身和群体中其他成员的信息以 决定下一步动作,即一个粒予通过追随两个目标点(分别代表离身信息和其他成员信息> 进行寻优,第一个譬标点为囊身历史最优点,第二个冒标点有两种: ~种是种群最优点 (称为全局版PSO>,另一种是邻域最优点(称为局部版PSO>。 PSO计算简单有效、鲁棒 性好。 僵是,PSO最大弱点是在处理多峰溺数优化闯题时,容易出现晕熟收敛,并且搜 索后期的局部搜索能力较差。 如何解决上述问题并进一步提高PSO的性能,~直是PSO 研究的重要开放性课题。 本文的研究目的,~是从理论方法上研究一种性能较好算法,二是从应用上将这种 方法既用于高效求解函数优化又用于求解Packing问题,最终期望用它作为求解卫星舱 布局设计混合方法中的有效组成部分。 由此,本文尝试从研究修改粒子搜索路径的角度, 通过构造新的速度更新公式,提出了两种改进的粒子群优化算法,分别为活跃目檬点粒 子群优化(APSO>算法和搽测粒子群优纯(DPSO>算法,并应用予求解匾数优化和约束布 局优化问题。 本文的工作主要包括以下两个方面: (1>提出了一种活跃目标点粒子群优化(APSO>算法。 基本思想是,在标准PSO速 度更新公式中引入第3个目标点,称为活跃目标点,从而构成新的基于3圈标点速度更 新机制的粒子速度更新公式。 APSO的优点是较好地竞服了PSO的早熟收敛问题,并兼 具复合形法射线搜索的能力;缺点是增加了一定的额外计算开销。 (2>提出了~种探测粒子群优化(DPSO>算法。 基本思想是,选定少数粒子,令其 单独进行有别予普通粒子折线搜索路径,丽是利用螺旋折线搜索路径搜索,该粒子称为 探测粒予。 整体上,该探测粒子与种群中其他普通粒子联合进行更高效率的搜索。 DPSO 的优点是在避免PSO的早熟收敛豹基础上,进一步提高了PSO的收敛速度和收敛精度; 缺点与APSO类似,增加了~定的额外计算开销。 经典型函数数值仿真实验表明,本文APSO和DPSO算法提高了PSO求解多峰邈 数优化|、蠢题的能力;经约束Packing闷题和简化返回式卫星的回收舱布局优化数值仿真 实验表明,本文APSO和DPSO算法求解该约束布局优化闯题的可行性和有效性,也有 助于PSO算法改进的理论探讨。 关键词: 粒子群优化: 搜索路径;丞数优化;布局优化大连瑗王大学硕士学位论文 The Improved ParticleSwarm OptimizationAlgorithms: APSO andDPSO Abstract Particleswarmopt: anizationO'so>isaswarmintelligencetechniquedevelopedby Eberhartand Kennedy in1995.PSOhasmadeconsiderable progress andleadtonumerous applicationsinvariousfields◇.g。 neuralnetwork霞蜮gand engineeringoptimization>。 颡pS0,eachmemberoftheswarmstudiestheinformationsfromitselfandtheother memberstodothenewmove.Asone particle followstwotargets to search,oneisprevious positionoftheparticle andtheotheristhebestpositionofswarm(theGbestmodel>orthe best position ofneighborhood(theLbestmodel>.pS0issimple。 robustandefficient. However,PSO hasthe disadvantage of easilytrapping intolocaloptimumonsolving multi-modalfunctions,andpoor localsearchinthelater stage.How tosolvetheabove problems and improveperformanceofPSO? 零隧sisan openquestion tothestudy ofPSO。 The purpose ofthe study hastwohandles,(1>tostudy a good PSOalgorithminflaeory, and0>tousing thisalgorithmtosolvenot onlybenchmarkfunctionsbutalso packing problems。 The ultimateaimistotakeitasarteffective part ofhyb&dmethodusedforthe layoutdesign ofsatelitemodule.Accordingtothe study ofparticles‘trajectories,newvelocity updatingformulasis designed,furthermore,twoimproved PSO algorithm whichareActive Target ParticleSwarmOptimization(APso>andDetecting ParticleSwarm Optimization (DPSO>areproposed。 The maincontributionsareasfollows: (1>AnActiveTargetParticleSwm-mOptimization(ApSO>ispresented。 APSOuses new three-targetsvelocityupdatingformula,i。 e。 ,thebest previousposition,theglobalbest position andanew targetposition(calledactive target>.APSO hastheadvantagesin good ability of jumping outthelocaloptimumandtheray seachabiI静ofcomplexmethod; however,ithasthedisadvantagesinadding someextracomputationexpenses. (2>ADetecting ParticleSwarmOptimi__z曩tion{[DPSo>ispresented.InDPSO,several detectingparticles are randomlyselectedfromthepopulation andthedetectingparticles use thenewlyproposedvelocityformulatosearchin spiraltrajectories。 Asawhole,thedetecting particlesandcommonparticles woulddothehi、ghperformancesearch。 pPS0triestoimprove PSO’Sperformance onswarmdiversity,theability ofquickconvergenceandjtumpingoutthe localoptimum。 However,italsohasthe disadvantages inaddingsomeextracomputation expensesasAPSO。 Theexperimental resultsfromseveralbenchmarkfimctionsdemonstrate盛◇od performanceofAPSOandDPSO.翻∽experimentalresultsfrom packingproblem andthe ——III—-改进的糠予群佐化算法(APSO帮DPSO>磷究 layoutdesignofsatelitemoduleproblemverifyofthefeasibilityandvalidityofAPSOand DPS0,anddemonstrateAPS0andDPSOtopushforwardthe theorystudyof improved method. KeyWords.ParticleSwarm魏购邋洳;SearchTrajectory;BenchmarkOptimizatiom LayoutOptimization *糊一独创性说明 作者郑重声明: 本硕士学位论文是我个人在导师指导下进行的研究工 作及取得研究成果。 尽我所知,除了文中特别加以标注和致谢的地方外, 论文中不包含其他人已经发表或撰写的研究成果,也不包含为获得大连理 工大学或者其他单位的学位或证书所使用过的材料。 与我一同工作的同志 对本研究所做的贡献均已在论文中做了明确的说明并表示了谢意。 作者签名: 、刍丝鬈整日期: z! 堡: 』: f参大连理工大学硕士研究生学位论文 大连理工大学学位论文版权使用授权书 本学位论文作者及指导教师完全了解“大连理工大学硕士、博士学位论 文版权使用规定",同意大连理工大学保留并向国家有关部门或机构送交学 位论文的复印件和电子版,允许论文被查阅和借阅。 本人授权大连理工大 学可以将本学位论文的全部或部分内容编入有关数据库进行检索,也可采 用影印、缩印或扫描等复制手段保存和汇编学位论文。 作者签名.多坌! 鍪整 翩签名: 监迄: 大连理王大学硕士学位论文 1绪论 优化闯题广泛存在子工程技术、科学研究、经济管理和社会科学等学科领域里,隧 着人们对优化问题进行深入的研究,已形成了许多优化理论和优化方法。 特别是近三十 多年以来,受到生物学、社会学、物理学等学科的启发,兴起了一些根据一定直观基础 而构造的基予迁移概率的随机搜索机制的启发式优化算法,这些算法得到了迅猛的发 展,至今仍方兴未艾。 粒子群优化(ParticleSwarmOptimization,PSO>算法是最近出现的一种基于概率搜 索的启发式优化算法,它属于群体智能类算法,因其简单有效,鲁棒性好,网前已成为 优化算法的研究热点和前沿,并且已广泛应用于神经网络训练,工程优化等领域。 尽管 PSO具有结构简单,收敛快速等优点。 但在处理多峰函数优化闯题时,PSO容易出现早 熟收敛。 同样的,搜索后期的局部搜索能力较差,收敛速度较慢也是PSO算法的缺点 之一。 本文研究的秀种改进PSO算法尝试解决上述问题并进一步提高PSO的性能,并 用于求解约束布局优化闯题,特别是复杂的卫星舱布局优化阀题。 1.1优化的基本概念 l。 l。 l优化的定义 优化是在给定约束的条件下,求目标函数的极值(最大值或最小值>问题。 其中,求 解目标函数最小值问题,称为最小化问题;求解目标函数最大值问题,称为最大化问题。 显然,最小化闯题与最大化问题可以相互转换。 下面以最小化闯题为例(为表述方便, 如无特别说明,本文优化问题均指最小化问题>,给出最优化闯题的数学描述: givenf: R”—争贝 findx’联R”forwhichfO。 >≤/(x>,V文∈R”(1.1> 其中,使得星标露数/取得最优值的解f称为最优解,该描述称为无约束优化阎题。 在此基础上增加若干约束条件,即为约束优化问题,其数学描述为: givenf: R”--@R find≯毯∥forwhichf(x‘>≤苁砖,VxeR”(1.2> subjectto&@>≥0,f=l,2,...m. 其中,萤@>为约束条件。 此外,根据求解方法可将优化闷题分为两类: 局部优化和全局优化。 改进的粒子群优化算法(APSO和DPSO>研究 1.1.2局部优化 对于局部最小值x: 和值域B,局部最优化问题可以描述如下: ,(‘>≤,∞,Vx《B(1。 3> 其中,BcS≤R弹,S表示解空间,B是S豹一个子集,挖是问题维数。 可知,当S=R打 时,该问题为无约束优化问题。 更为重要的是。 对于一个给定的解空间S,可以包含多 个值域Bt,且骂ns,=彩,i.j。 由xn’,≠‘,可知,对于任意值域尽的最小值都是唯一 的。 对予在值域B中任意的解‘,《,,当/(‘>然八磊,>时,可将目标透数值.厂(‘>称 为局部最小值,x: 为局部最小值的解。 许多的优化算法在其寻优之前都需要给定上个起点zo专S,则当Zo∈B时,一个局 部优化算法可以保证找到局部最小值的解‘。 当约束较少或较容易处理时,一些局部优 化算法也可以保证找到值域Bi内的局部最小值的解并: 。 | f |{ l |} ; | 1 { | } ~~-,——二,7 x薯/ I /’。 l叠 ● 、 ; 、 /、 /; /,..,\ , ● 孕1234S巷 盏 圈1.1函数厂(x>篇x4—12xs+47x2—60x曲线图 Fig.1.1 Thefunctionf(x>--x4一12≯+47x2—60x 1.1.3全局优化 对于全局最小值x,全局最优化问题可以描述如下; ,缸’>≤,(x>,VxeS(1.4>大连理工大学硕士学位论文 其中,S表示解空间,S£R”,刀是问题维数。 目标函数值f(x‘>称为全局最小值, x‘称为全局最小值的解。 类似局部优化算法的定义,全局最优算法可定义为: 从起点磊 出发,Zo∈S,可以保证找到局部最小值的解x‘的算法。 全局优化算法的另一种描述为: 无论起点的位置如何,算法都可以找到属于值域召 的(局部>最小值。 这些算法的寻优一般包括两个过程,即局部搜索过程和全局搜索过程。 对于值域矗,局部搜索过程即为局部优化算法的搜索过程;而全局搜索过程的作用为, 当局部搜索过程有能力找到值域骂内的最小值时,将算法引入到值域置内。 这种算法又 被称为全局收敛算法,即无论起点的位置如何,算法都有能力找到局部最小值。 并且, 当初始点选择合适时,算法甚至可以找到全局最小值。 但是,很显然并没有通用的方法 保证总是能够选择到合适的初始点。 在1995年以前的优化算法领域,一直存在一种信念,即存在一种优化算法,它在 求解任何优化问题时比其他算法都好,即可以设计出一种最好的全局优化算法。 然而, 1995年Wolpert和Macready提出“没有免费的午餐(NoFreeLunch,NFL>”定理【l】无异于 在优化界引入了一枚重磅炸弹。 该定理可以表述为: 对于所有可能的函数集合而言,任 何的优化算法都是平等的。 根据NFL定理,没有一种优化算法是优于其他算法的,甚 至不优于一个纯粹的随机搜索方法。 值得注意的是,NFL定理是指对于所有函数而言任何搜索方法都是徒劳无效的,而 并非指对一个普通问题而言所有的搜索方法都是徒劳无效的。 虽然NFL定理表明任何 优化算法对所有函数而言是平等的,但这对所有函数的子集并不适用。 所有可能函数的 集合是一个无限域,它包含这个域的所有组合,其中许多函数都是没有简洁的数学公式 可描述的,而多数现实世界中的问题函数通常有着一些确定结构,这种类型的函数构成 了所有函数集合的一个非常小的子集。 对这一点的关注和研究也导致更新的NFL定理 的出现【2】。 另一种对NFL定理的研究思路是描绘并定义一个具有不满足NFL定理特性 的函数集合,Christensen提出定义一个可优化搜索函数集合【31,也就是一般算法可以被 证明优于随机搜索方法,本文的研究也正是基于这种立场上的。 1.1.4多峰函数优化问题和带性能约束的Packing问题 由图1.1可知,函数厂@>=∥一12,+47x2—60x含有一个全局最优解x‘和一个局部 最优解x: 。 可见,一旦陷入局部最优解x;附近的区域,全局搜索能力较弱的算法将很 难跳出该区域而达到全局最优解X’。 如果函数含有很多局部最优解,在数学中称为多峰 (Muti-peak>函数(如图1.2所示>,则更难求解。 现实世界中许多问题也由此性质,这类改进的粒子群优化算法(APSO和DPSO>研究 问题称为多模态优化(Muff.modalOptimization>问题。 并且,这类问题往往含有多个局 部最优解,甚至无限个局部最优解。 本文所研究的约束布局(Packing>优化问题即属于多 模态问题,优化算法在求解此类问题时不仅极易陷入局部最优解区域,出现早熟收敛, 而且还要受到很多约束条件的限制。 可见,设计出对于这两类问题的求解都有效的算法, 难度无疑是很大的。 x2砌~x (a>Schwefel函数 x2。 1∞·1DC ×1 (b>Griewank函数 图1.2多峰函数函数图 Fig.1.2Muff-peakfunction 应该说明,根据本课题组长期以来对于利用演化算法(EvolutionaryAlgorithm,EA> 或者群体智能(SwarmIntelligence,SI>类算法求解布局问题所积累的经验,用EA或SI 求解布局问题并不是一个好办法,只是一个无别的好算法可以取代,不怕付出耗时代价 的蠢办法。 这是由布局问题的特点决定的,由于约束布局问题的干涉等约束条件属多峰 函数,故推测属于多模态问题。 因此利用EA或SI求解时容易出现早熟,但是不用EA 或SI方法不好吗? 似乎也不行,因为其他方法没有全局搜索能力。 因此,目前只能从 提高EA或SI方法的性能,即如何设计有效策略使得EA或SI在求解过程中既能保持 种群多样性(克服早熟收敛,跳出局部最优区域>,又能提高其局部搜索能力(搜索后期 加快收敛速度>。 本文的研究正是基于这个前提的。 1.2演化计算 演化计算(EvolutionaryComputation,EC>是基于对自然(生物>界演化的模拟而设 计的一类求解问题的方法,其演化计算的生物学的理论基础有两个: 达尔文的自然选择 咖 蛐 。 喜} 差|锄大连理工大学硕士学位论文 学说和基于分子生物学的遗传理论。 这类方法的共同特点为: 都是群体的随机算法,依 靠随机变量的交叉重组和选择求解问题。 其研究一般包括以下几个方面it4]: 图1.3通用演化算法框架 Fig.1.3GeneralframeworkfordescribingEAs 演化算法(EvolutionaryAlgorithm,EA>: 演化算法(EA>实际上可以表述为基于通 用遗传演化框架(如图1.3>的算法的集合,其完整的形式包括从父代生成子代所运用的 所有操作。 从这个意义上讲,演化策略,演化规划,遗传算法都是演化算法的一种特例, 而遗传编程则是遗传算法的一种特例。 图1.3中,参数@,,0册和@,分别代表交叉重组, 变异和选择的操作概率,∥表示父代的种群规模,∥+五表示交叉重组和变异之后的全 部个体数量(父代个体+子代个体>。 通过由@。 控制的选择操作,将得到群体规模为∥的 新一代群体尸’(f>。 演化策略(EvolutionaryStrategies,ES>: 演化策略(ES>由Rechenberg在1973年 首先提出[5】,其最初思想是在演化规划的基础上使用单个体,采用选择和变异算子。 随 后,Schweful又引入重组算子,并将个体数进行了扩展【6J。 1994年,Rechenberg对ES 作了如下总结叽演化是对生物过程的优化,而演化本身也是一种生物过程,也需要优 化。 如果说EP是对演化的模拟,那么ES则是对演化的演化进行模拟。 Rechenberg之 所以说ES是对演化的演化进行模拟,其原因在于ES中的演化参数在演化过程中也作 自适应变化。 改进的粒子群优化算法(APSO和DPSO>研究 演化规划(EvolutionaryProgramming,EP>: 演化规划(EP>的思想是Fogel于1966 年通过研究有限状态机的演化首先提出的【引。 相比于EA,EP采用变异和选择,但不使 用交叉重组;EA是基于基因型空间的,而EP是基于可见的表现型空间。 EP可采用 非常灵活的方式表示问题的解,根据问题的不同来使用特定的表现型,在实数优化问题 中,个体的表示是实数值的向量: 在TSP问题中使用有序列表;在有限状态机问题中 使用图。 遗传算法(GeneticAlgorithms,GAs>: 1975年,Holland出版了第一本系统论述 GA的专著((Adaptationinnaturalandartificialsystems>>【9】。 1989年,Holland的学生 Goldberg出版的((Geneticalgorithmsinsearch,optimization,andmachinelearning.》 则对GA的理论及应用作了全面系统的论述,奠定了现代遗传算法的基础IlⅢ。 GA 做为最具代表性的EA,其算法流程完全符合演化算法的通用框架。 GA的演化对象是由 多个个体组成的群体,优化问题的解被表达为个体的染色体,解的值与个体的适应度值 相对应,也就是个体的适应能力。 群体初始化之后,先基于适应度的概率来选择父代, 然后通过交叉重组和变异来维持群体的多样性,如此迭代下去,直到满足终止条件。 遗传编程(GeneticProgramming,EP>: 遗传编程(GP>由Koza在’1992年提出【l 1’ 12】,其思想是通过遗传算法来实现自动程序设计。 因此,GP被认为是GA的一个分支, 其特点是不采用固定长度的二进制串作为染色体的表达形式,其染色体的形式、长度和 复杂程度均是可以变的,主要方式有三种: 树、图和线性表示,其中树是被最广泛使用 的。 尽管演化计算来源于自然的优化过程,其应用范围却不仅仅限于优化本身,经过近 半个世纪的发展,演化计算技术已经被成功应用于多个不同领域,包括规划、设计、模 式识别、控制及分类问题。 1.3群体智能 群体智能(SwarmIntelligence,SI>的概念最早由Beni,Hackwood和Wang在分子 自动机系统中提出【13,14】。 分子自动机中的主体在一维或二
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 改进 粒子 优化 算法 APSO DPSO 分析研究
![提示](https://static.bdocx.com/images/bang_tan.gif)