【智能控制】第15章 智能优化算法,遗传算法

目录

[15.1 遗传算法及其应用](#15.1 遗传算法及其应用)

[15.1.1 遗传算法的基本原理](#15.1.1 遗传算法的基本原理)

[15.1.2 遗传算法的特点](#15.1.2 遗传算法的特点)

[15.1.3 遗传算法的应用领域](#15.1.3 遗传算法的应用领域)

遗传算法的应用

[15.1.4 遗传算法的设计](#15.1.4 遗传算法的设计)

遗传算法的应用步骤

[15.1.5 遗传算法求函数极大值](#15.1.5 遗传算法求函数极大值)


随着优化理论的发展,一些新的智能算法得到了迅速发展和广泛应用,成为解决传统优化问题的新方法,如遗传算法、 蚁群算法、 粒子群算法、差分进化算法等。这些算法丰富了优化技术,这些优化算法都是通过模拟揭示自然现象和过程来实现,其优点和机制的独特,为优化问题提供了切实可行的解决方案。

15.1 遗传算法及其应用

15.1.1 遗传算法的基本原理

遗传算法简称GA(Genetic Algorithms)是1962年由美国Michigan大学的Holland教授提出的模拟自然界遗传机制和生物进化论而成的一种并行随机搜索最优化方法。

遗传算法是以达尔文的自然选择学说为基础发展起来的。自然选择学说包括以下三个方面:

(1)遗传:这是生物的普遍特征,亲代把生物信息交给子代,子代总是和亲代具有相同或相似的性状。生物有了这个特征,物种才能稳定存在。

(2)变异:亲代和子代之间以及子代的不同个体之间的差异,称为变异。变异是随机发生的,变异的选择和积累是生命多样性的根源。

(3)生存斗争和适者生存:具有适应性变异的个体被保留下来,不具有适应性变异的个体被淘汰,通过一代代的生存环境的选择作用,性状逐渐逐渐与祖先有所不同,演变为新的物种。

遗传算法将"优胜劣汰,适者生存"的生物进化原理引入优化参数形成的编码串联群体中,按所选择的适应度函数并通过遗传中的复制、交叉及变异对个体进行筛选,使适适应度高的个体被保留下来,组成新的群体,新的群体既继承了上一代的信息,又优于上一代。这样周而复始,群体中个体适应度不断提高,直到满足一定的条件。遗传算法的算法简单,可并行处理,并能到全局最优解。

遗传算法的基本操作为:

(1)复制(Reproduction Operator)

复制是从一个旧种群中选择生命力强的个体位串产生新种群的过程。具有高适应度的位串更有可能在下一代中产生一个或多个子孙。

复制操作可以通过随机方法来实现。首先产生0~1之间均匀分布的随机数,若某串的复制概率为40%,则当产生的随机数在0.40~1.0之间时,该串被复制,否则被淘汰。

(2)交叉(Crossover Operator)

复制操作能从旧种群中选择出优秀者,但不能创造新的染色体。而交叉模拟了生物进化过程中的繁殖现象,通过两个染色体的交换组合,来产生新的优良品种。

交叉的过程为:在匹配池中任选两个染色体,随机选择一点或多点交换点位置;交换双亲染色体交换点右边的部分,即可得到两个新的染色体数字串。

交换体现了自然界中信息交换的思想。交叉有一点交叉、多点交叉、还有一致交叉、顺序交叉和周期交叉。一点交叉是最基本的方法,应用较广。它是指染色体切断点有一处,例:

(3)变异(Mutation Operator)

变异运算用来模拟生物在自然的遗传环境中由于各种偶然因素引起的基因突变,它以很小的概率随机地改变遗传基因(表示染色体的符号串的某一位)的值。在染色体以二进制编码的系统中,它随机地将染色体的某一个基因由1变为0,或由0变为1。

15.1.2 遗传算法的特点

(1)遗传算法是对参数的编码进行操作,而非对参数本身,这就是使得我们在优化计算过程中可以借鉴生物学中染色体和基因等概念,模仿自然界中生物的遗传和进化等机理;

2)遗传算法同时使用多个搜索点的搜索信息。传统的优化方法往往是从解空间的单个初始点开始最优解的迭代搜索过程,单个搜索点所提供的信息不多,搜索效率不高,有时甚至使搜索过程局限于局部最优解而停滞不前。

遗传算法从由很多个体组成的一个初始群体开始最优解的搜索过程,而不是从一个单一的个体开始搜索,这是遗传算法所特有的一种隐含并行性,因此遗传算法的搜索效率较高。

(3)遗传算法直接以目标函数作为搜索信息。传统的优化算法不仅需要利用目标函数值,而且需要目标函数的导数值等辅助信息才能确定搜索方向。而遗传算法仅使用由目标函数值变换来的适应度函数值,就可以确定进一步的搜索方向和搜索范围,无需目标函数的导数值等其他一些辅助信息。

遗传算法可应用于目标函数无法求导数或导数不存在的函数的优化问题,以及组合优化问题等。

(4)遗传算法使用概率搜索技术。遗传算法的选择、交叉、变异等运算都是以一种概率的方式来进行的,因而遗传算法的搜索过程具有很好的灵活性。随着进化过程的进行,遗传算法新的群体会更多地产生出许多新的优良的个体。

(5)遗传算法在解空间进行高效启发式搜索,而非盲目地穷举或完全随机搜索;

(6)遗传算法对于待寻优的函数基本无限制,它既不要求函数连续,也不要求函数可微,既可以是数学解析式所表示的显函数,又可以是映射矩阵甚至是神经网络的隐函数,因而应用范围较广;(7)遗传算法具有并行计算的特点,因而可通过大规模并行计算来提高计算速度,适合大规模复杂问题的优化。

15.1.3 遗传算法的应用领域

遗传算法起源于对生物系统所进行的计算机模拟研究。早在20世纪40年代,就有学者开始研究如何利用计算机进行生物模拟的技术,他们从生物学的角度进行了生物的进化过程模拟、遗传过程模拟等研究工作。进入20世纪60年代,美国密执安大学的Holland教授及其学生们受到这种生物模拟技术的启发,创造出一种基于生物遗传和进化机制的适合于复杂系统优化计算的自适应概率优化技术---遗传算法。

以下是在遗传算法发展进程中一些关键人物所做出的主要贡献:

(1)J.H.Holland

20世纪70年代初,Holland教授提出了遗传算法的基本定理---模式定理,从而奠定了遗传算法的理论基础。模式定理揭示了群体中优良个体(较好的模式)的样本数将以指数级规律增长,从理论上保证了遗传算法用于寻求最优可行解的优化过程。1975年,Holland出版了第一本系统论述遗传算法和人工自适应系统的专著《自然系统和人工系统的自适应性》。20世纪80年代,Holland教授实现了第一个基于遗传算法的机器学习系统---分类器系统,开创了基于遗传算法的机器学习的新概念。

(2)J.D.Bagley

1967年,Holland的学生Bagley在其博士论文中首次提出了"遗传算法"一词,并发表了遗传算法应用方面的第一篇论文。他发展了复制、交叉、变异、显性、倒位等遗传算子,在个体编码上使用了双倍体的编码方法。在遗传算法的不同阶段采用了不同的概率,从而创立了自适应遗传算法的概念。

(3)K.A.De Jong

1975年,De Jong博士在其博士论文中结合模式定理进行了大量纯数值函数优化计算实验,树立了遗传算法的工作框架。他推荐了在大多数优化问题中都较适用的遗传算法的参数,建立了著名的De Jong五函数测试平台,定义了评价遗传算法性能的在线指标和离线指标。

(4)D.J.Goldberg

1989年,Goldberg出版了专著《搜索、优化和机器学习中的遗传算法》,该书全面地论述了遗传算法的基本原理及其应用,奠定了现代遗传算法的科学基础。

(5)L.Davis

1991年,Davis编辑出版了《遗传算法手册》一书,为推广和普及遗传算法的应用起到了重要的指导作用。

(6)J.R.Koza

1992年,Koza将遗传算法应用于计算机程序的优化设计及自动生成,提出了遗传编程的概念,并成功地将遗传编程的方法应用于人工智能、机器学习和符号处理等方面。

遗传算法的应用

(1)函数优化。

函数优化是遗传算法的经典应用领域,也是遗传算法进行性能评价的常用算例。尤其是对非线性、多模型、多目标的函数优化问题,采用其他优化方法较难求解,而遗传算法却可以得到较好的结果。

(2)组合优化。

随着问题的增大,组合优化问题的搜索空间也急剧扩大,采用传统的优化方法很难得到最优解。遗传算法是寻求这种满意解的最佳工具。例如,遗传算法已经在求解旅行商问题、背包问题、装箱问题、图形划分问题等方面得到成功的应用。

(3)生产调度问题

在很多情况下,采用建立数学模型的方法难以对生产调度问题进行精确求解。在现实生产中多采用一些经验进行调度。遗传算法是解决复杂调度问题的有效工具,在单件生产车间调度、流水线生产车间调度、生产规划、任务分配等方面遗传算法都得到了有效的应用。

(4)自动控制。

在自动控制领域中有很多与优化相关的问题需要求解,遗传算法已经在其中得到了初步的应用。例如,利用遗传算法进行控制器参数的优化、基于遗传算法的模糊控制规则的学习、基于遗传算法的参数辨识、基于遗传算法的神经网络结构的优化和权值学习等。

(5)机器人

例如,遗传算法已经在移动机器人路径规划、关节机器人运动轨迹规划、机器人结构优化和行为协调等方面得到研究和应用。

(6)图像处理

遗传算法可用于图像处理过程中的扫描、特征提取、图像分割等的优化计算。目前遗传算法已经在模式识别、图像恢复、图像边缘特征提取等方面得到了应用。

(7)人工生命

人工生命是用计算机、机械等人工媒体模拟或构造出的具有生物系统特有行为的人造系统。人工生命与遗传算法有着密切的联系,基于遗传算法的进化模型是研究人工生命现象的重要基础理论。遗传算法为人工生命的研究提供了一个有效的工具。

(8)遗传编程

遗传算法已成功地应用于人工智能、机器学习等领域的编程。

(9)机器学习

基于遗传算法的机器学习在很多领域都得到了应用。例如,采用遗传算法实现模糊控制规则的优化,可以改进模糊系统的性能;遗传算法可用于神经网络连接权的调整和结构的优化;采用遗传算法设计的分类器系统可用于学习式多机器人路径规划。

15.1.4 遗传算法的设计

遗传算法的构成要素

(1)染色体编码方法

基本遗传算法使用固定长度的二进制符号来表示群体中的个体,其等位基因是由二值符号集{0,1}所组成。初始个体基因值可用均匀分布的随机值生成,如

就可表示一个个体,该个体的染色体长度是18。

(2)个体适应度评价:基本遗传算法与个体适应度成正比的概率来决定当前群体中每个个体遗传到下一代群体中的概率多少。为正确计算这个概率,要求所有个体的适应度必须为正数或零。因此,必须先确定由目标函数值J到个体适应度f之间的转换规则。

(3)遗传算子:基本遗传算法使用下述三种遗传算子:

① 选择运算:使用比例选择算子;

② 交叉运算:使用单点交叉算子;

③ 变异运算:使用基本位变异算子或均匀变异算子。

(4)基本遗传算法的运行参数

有下述4个运行参数需要提前设定:

M:群体大小,即群体中所含个体的数量,一般取为20~100;

G:遗传算法的终止进化代数,一般取为100~500;

Pc:交叉概率,一般取为0.4~0.99;

Pm:变异概率,一般取为0.0001~0.1。

遗传算法的应用步骤

对于一个需要进行优化的实际问题,一般可按下述步骤构造遗传算法:

第一步:确定决策变量及各种约束条件,即确定出个体的表现型X和问题的解空间;

第二步:建立优化模型,即确定出目标函数的类型及数学描述形式或量化方法;

第三步:确定表示可行解的染色体编码方法,即确定出个体的基因型x及遗传算法的搜索空间;

第四步:确定个体适应度的量化评价方法,即确定出由目标函数值J(x)到个体适应度函数F(x)的转换规则;

第五步:设计遗传算子,即确定选择运算、交叉运算、变异运算等遗传算子的具体操作方法;

第六步:确定遗传算法的有关运行参数,即M,G,Pc,Pm等参数;

第七步:确定解码方法,即确定出由个体表现型X到个体基因型x的对应关系或转换方法。

以上操作过程可以用图15-1来表示。

15.1.5 遗传算法求函数极大值

利用遗传算法求Rosenbrock函数的极大值

函数 的三维图如图15-2所示,可以发现该函数在指定的定义域上有两个接近的极点,即一个全局极大值和一个局部极大值。因此,采用寻优算法求极大值时,需要避免陷入局部最优解。

图15-2 的三维图

采用二进制编码遗传算法求函数极大值求解该问题遗传算法的构造过程:

(1)确定决策变量和约束条件;

(2)建立优化模型;

(3)确定编码方法

用长度为10位的二进制编码串来分别表示两个决策变量x1,x2。10位二进制编码串可以表示从0到1023之间的1024个不同的数,故将x1,x2的定义域离散化为1023个均等的区域,包括两个端点在内共有1024个不同的离散点。

从离散点-2.048到离散点2.048 ,分别对应于从0000000000(0)到1111111111(1023)之间的二进制编码。

将x1,x2分别表示的两个10位长的二进制编码串连接在一起,组成一个20位长的二进制编码串,它就构成了这个函数优化问题的染色体编码方法。使用这种编码方法,解空间和遗传算法的搜索空间就具有一一对应的关系。

例如: 表示一个个体的基因型,其中前10位表示x1,后10位表示x2。

(4)确定解码方法:解码时需要将20位长的二进制编码串切断为两个10位长的二进制编码串,然后分别将它们转换为对应的十进制整数代码,分别记为y1和y2。

依据个体编码方法和对定义域的离散化方法可知,将代码yi转换为变量xi的解码公式为

例如,对个体

它由两个代码所组成

上述两个代码经过解码后,可得到两个实际的值

(5)确定个体评价方法:由于Rosenbrock函数的值域总是非负的,并且优化目标是求函数的最大值,故可将个体的适应度直接取为对应的目标函数值,即

选个体适应度的倒数作为目标函数

(6)设计遗传算子:选择运算使用比例选择算子,交叉运算使用单点交叉算子,变异运算使用基本位变异算子。

(7)确定遗传算法的运行参数:群体大小M=80,终止进化代数G=100,交叉概率Pc=0.60,变异概率Pm=0.10。

上述七个步骤构成了用于求函数极大值的优化计算基本遗传算法。

采用上述方法进行仿真,经过100步迭代,最佳样本为

即当 时,Rosenbrock函数具有极大值,极大值为3905.9。

遗传算法的优化过程是目标函数J和适应度函数F的变化过程。

由仿真结果可知,随着进化过程的进行,群体中适应度较低的一些个体被逐渐淘汰掉,而适应度较高的一些个体会越来越多,并且它们都集中在所求问题的最优点附近,从而搜索到问题的最优解。

相关推荐
爱吃土豆的程序员14 分钟前
Lucene 倒排索引原理详解:深入探讨相关算法设计
java·算法·elasticsearch·全文检索·lucene
4v1d1 小时前
从决策树到GBDT、随机森林
算法·决策树·随机森林
顾城猿1 小时前
9.25-编程刷题
数据结构·算法·leetcode
王哈哈嘻嘻噜噜2 小时前
c语言中的杨氏矩阵的介绍以及元素查找的方法
c语言·算法·矩阵
大柏怎么被偷了2 小时前
【C++算法】栈
开发语言·c++·算法
小柯J桑_2 小时前
史上最牛排序集合,带你认清所有排序算法!(必看系列)~
数据结构·算法·排序算法
无限大.3 小时前
c语言200例 64
c语言·数据结构·算法
luluvx3 小时前
LeetCode[中等] 78.子集
算法·leetcode·职场和发展
sp_fyf_20243 小时前
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-09-26
人工智能·深度学习·神经网络·算法·语言模型·自然语言处理·数据挖掘
大二转专业3 小时前
408算法题leetcode--第16天
考研·算法·leetcode