陈建隆粒子群优化算法及其应用分析研究Word格式文档下载.docx

陈建隆粒子群优化算法及其应用分析研究Word格式文档下载.docx

《陈建隆粒子群优化算法及其应用分析研究Word格式文档下载.docx》由会员分享，可在线阅读，更多相关《陈建隆粒子群优化算法及其应用分析研究Word格式文档下载.docx（32页珍藏版）》请在冰豆网上搜索。

最优化问题是在满足一定约束条件下，寻找一组参数值，使得系统的某些性能指标达到最大或者最小。

它广泛的存在于农业，国防，工程，交通，金融，能源，通信，材料等诸多领域。

最优化技术在上述领域的应用已经产生了巨大的经济效益和社会效益。

国内外的实践证明，在同样条件下，经过优化技术的处理，对系统效率的提高，能耗的降低，资源的合理利用及经济效益提高均有显著的效果，而且随着处理对象规模的增大，这种效果也更加显著。

但随着处理对象规模的增大，优化问题也越来越复杂，而经典的优化技术对问题的约束比较大，如梯度下降法要求优化函数是可导等，因此，对于新型优化算法的研究具有重要的意义[1]。

1.2研究背景

1.2.1人工生命计算

人们从生命现象中得到启示，发明了许多智能的优化方法来解决复杂优化问题。

现在已有很多源于生物现象的计算技巧。

例如，人工免疫模拟生物免疫系统的学习和认知功能，人工神经网络是简化的大脑模型,遗传算法是模拟基因进化的过程。

在计算智能（computationalintelligence>

领域有两种基于群体智能swarmintelligence的算法，粒子群优化算法（particleswarmoptimization>

和蚁群算法（antcolonyoptimization>

。

蚁群优化算法模拟了蚂蚁群体在路径选择和信息传递方面的行为，而粒子群优化算法模拟群居动物觅食迁徙等群体活动中个体与群体协调合作的工作过程。

这类借鉴了模拟生命系统行为功能和特性的科学计算方法称为人工生命计算。

人工生命计算包括两方面的内容，研究如何利用计算技术研究生物现象和研究如何利用生物技术研究计算问题。

人工神经网络，粒子群优化算法，遗传算法，蚁群优化算法等都属于人工生命计算的范畴[2]。

本文详细介绍的粒子群优化算法是其中的一种新兴计算方法。

它同遗传算法类似，同属随机迭代优化工具。

同遗传算法等其他人工生命计算相比，粒子群算法概念简单，容易实现，调节参数较少。

目前粒子群算法越来越引起人们的关注。

1.2.2群集智能理论

我们经常能够看到成群的鸟、鱼或其它生物，这些生物的聚集行为有利于它们觅食和逃避捕食者。

生物的群落动辄以十、百、千甚至万计，它们是如何迅速完成聚集、移动等行为呢?

这些群落一般都不存在一个统一的指挥者，那么一定有某种潜在的能力或者规则保证了这些行为的同步。

科学家们普遍认为上述行为是基于不可预知的种群社会行为中的群集智能。

群集智能（（SwarmIntelligence>

指的是众多无智能的简单个体组成的群体，通过相互间的简单合作表现出智能行为的特性。

群居生物涌现的群集智能正越来越得到人们的重视，成为近年来人工智能研究的一个热点课题。

Millonasp在开发人工生命算法时提出了群集智能的概念，并提出五点原则[3]:

1）接近性原则:

群体应能够实现简单的时空计算。

2）优质性原则:

群体能够响应环境要素。

3）变化相应原则:

群体不应把自己的活动限制在一个狭小的范围:

4）稳定性原则:

群体不应每次随环境改变自己的模式。

5）适应性原则:

群体的模式应在计算代价值得的时候改变。

1.3算法比较

1.3.1粒子群算法与遗传算法（GA>

比较

为更清楚地认识PSO算法和GA算法，下面对两者做个简单比较。

PSO算法和GA算法的相同点:

（1>

都属于仿生算法。

PSO算法主要模拟鸟类觅食、人类认知等社会行为而研究。

GA算法主要借用生物进化中“适者生存”的规律。

（2>

都属全局优化方法。

在解空间都随机产生初始种群，因而算法在全局的解空间进行搜索，且将搜索重点集中在性能高的部分。

（3>

都属随机搜索算法。

（4>

隐含并行性。

搜索过程是从问题解的一个集合开始的，而不是从单个个体开始，具有隐含并行搜索特性，从而减小了陷入局部极小的可能性。

（5>

根据个体的适配信息进行搜索，因此不受函数约束条件的限制，如连续性、可导性等。

（6>

对高维复杂问题，往往会遇到早熟收敛和收敛性能差的缺点，都无法保证收敛到最优点。

PSO算法和GA算法不同点:

PSO算法有记忆，好的解的知识所有粒子都保存，而GA算法，以前的知识随着种群的改变被破坏。

PSO算法中的粒子仅仅通过当前搜索到最优点进行共享信息，所以很大程度上这是一种单项信息共享机制。

而GA算法中，染色体之间相互共享信息，使得整个种群都向最优区域移动。

GA算法的编码技术和遗传操作比较简单，而PSO算法相对于GA算法，没有交叉和变异操作，粒子只是通过内部速度进行更新，因此原理更简单、参数、更少、实现更容易。

在收敛性方面，GA算法己经有了较成熟的收敛性分析方法，并且可对收敛速度进行估计。

而PSO算法这方面的研究还比较薄弱。

尽管己经有简化确定性版本的收敛性分析，但将确定性向随机性的转化尚需进一步研究。

在应用方面，PSO算法主要应用于连续问题，包括神经网络训练和函数优化等，而GA算法除了连续问题之外，还可应用于离散问题。

1.3.2粒子群算法与蚁群算法（ACO>

PSO算法和ACO算法都是群体智能算法，为更清楚地认识PSO算法和ACO算法，下面对两者也做简单比较[4]。

PSO算法和ACO算法的相同点:

PSO算法和ACO算法主要模拟觅食、人类认知等社会行为而提出。

算法在全局的解空间进行搜索，且将搜索重点集中在性能高的部分。

都有记忆，好的解的知识所有粒子都保存。

并且由于这种并行性，易在并行计算机上实现，以提高算法性能和效率。

（7>

PSO算法和ACO算法不同点:

PSO算法中的粒子通过当前搜索到最优点进行共享信息，所以很大程度上这是一种单项信息共享机制。

而ACO算法中，每个个体只能感知局部的信息，不能直接使用全局信息。

PSO算法的编码技术和ACO算法操作比较简单，而PSO算法相对于ACO算法，粒子只是通过内部速度进行更新，因此原理更简单、参数更少、实现更容易。

在收敛性方面，ACO算法己经有了较成熟的收敛性分析方法，并且可对收敛速度进行估计。

尽管已经有简化确定性版本的收敛性分析，但将确定性向随机性的转化尚需进一步研究。

在应用方面，PSO算法主要应用于连续问题，包括神经网络训练和函数优化等，而全局ACO算法除了连续问题之外，还可应用于离散问题，比如TSP问题、工作车间调度等。

1.4粒子群优化算法的研究现状

1.4.1理论研究现状

在粒子群优化算法的理论研究方面，由于PSO算法对参数的选择没有规范，而且算法容易“早熟”，因此很多学者都对算法提出了改进。

有些学者对算法的收敛性进行了分析，对参数选择提出了好的建议。

更多的学者则致力于研究算法的结构和性能的改善，包括参数分析，拓扑结构，粒子多样性保持，算法融合和性能比较等[5]。

在基本粒子群优化算法的基础上，Shi和Eberhart首次提出了惯性权重的概念，对基本算法中的速度更新公式进行修正。

惯性权重的引入更好地控制了粒子的开发（（exploitation>

和探索（exploration>

，提高了算法性能。

惯性权重在多数情况下被设置为随时间递减的时变权重。

改进后的算法称为标准粒子群优化算法，为大多数研究者所使用。

之后，Kenned提出了簇丛分析（clusteranalysis>

的方法。

簇丛分析方法是在微粒群体中选择一些微粒作为中心，再将离它最近的N个微粒和中心微粒作为一簇，然后计算每个簇的中心位置，并以这些中心位置来替换Pbest或者Gbest。

结果表明，用簇中心替换Pbest时，部分测试函数的解得到了较好的改进，其余的函数只是略微差一点。

如果用全局的簇中心替换Gbest时，几乎所有函数的结果都较差。

此外，簇丛分析的方法虽然使收敛速度有所加快，但同时引入了一些附加计算，通常需要标准PSO算法计算时间的74%-200%。

AngelineP.J.利用选择（selection>

的方法改进PSO算法[4]。

结果表明，改进后的方法提高了大部分函数的性能。

这是由于选择方法加快了对当前较好区域的开发过程，使得算法收敛速度加快，但也增加了陷入局部解的可能性。

标准粒子群优化算法有3个权重因子，这使得算法调整很自由，但也为找到最好的参数组合带来难度。

因此，Clerc提出一个简化的PSO算法，只有一个公式和一个社会/信心参数。

该算法定义了一个无希望（（No-hope>

收敛规则和一个重新希望（Re-hope>

方法，以便不时地根据对目标函数的梯度估计和先前的初始化重新初始化群体位置，算法还考虑了粒子群体的引力中心（Gravitycenter>

用该算法对一些函数进行测试得到了较好的结果。

1.4.2应用研究现状

粒子群优化算法最早应用于非线性连续函数的优化和神经元网络的训练，后来也被用于解决约束优化问题。

Eberhart用PSO算法来分析人类的帕金森综合症等颤抖类疾病。

Robinson等将PSO算法用于剖面波状喇叭天线的优化，并与GA的优化效果进行了比较，研究了二者混合应用的可行性[5]。

Ciuprina提出一种智能PSO（IntelligentPSO>

用于电磁线圈尺寸的优化。

Abido将PSO算法用于解决最优功率通量（OPF>

问题。

国内也有越来越多的学者关注PSO算法，将其应用于非线性规划、参数优化、车辆路径、约束布局优化、新产品组合投入、多目标优化等问题。

还有一些学者尝试将PSO算法应用于解决动态优化问题，也取得了较好的效果。

粒子群优化算法由于其算法简单，参数少，易于实现等特点，在连续非线性优化问题和组合优化问题中都表现出良好的效果。

基于以上研究成果，论文将在分析粒子群优化算法缺点的基础上对其做进一步的改进，以提高算法在复杂、高维情况下的优化性能，使算法能有效避免搜索过程中的“早熟”问题，提高算法的稳定性，并且对最小二乘支持向量机的参数进行优化。

1.5粒子群优化算法的应用

粒子群优化（（PSO>

算法概念简单，易于实现，同时又有深刻的智能背景，既适合科学研究，又适合于工程应用。

由于该算法具有很强的通用性，而且无需问题的特殊信息，因此，算法一提出就吸引了广泛的关注，不断涌现出各种关于PSO算法应用的研究成果，有力地推动了PSO算法的应用研究。

1.5.1神经网络训练

粒子群优化算法最早最成功的应用就是在神经网络的训练领域。

在神经网络的训练中，主要包含3个方面:

网络连接权重、网络拓扑结构、学习算法。

每个粒子包含神经网络的所有参数，通过迭代来优化这些参数，从而达到训练的目的。

与BP算法相比，使用PSO算法训练神经网络的优点在于