基于区域分解的代理辅助多种群差分进化算法

于明渊, 潘万里, 梁 静, 岳彩通

(郑州大学 电气与信息工程学院,河南 郑州 450001)

摘 要: 在昂贵优化问题中,如果问题的最优解不唯一,那么此类问题被称为昂贵多模态优化问题。然而,在计算资源有限的情况下,求得多个最优解非常困难。并且,现有的代理模型辅助进化算法对多模态属性关注较少。鉴于此,提出了一种基于区域分解的代理辅助多种群差分进化算法以解决昂贵多模态优化问题。首先,在种群个体初始化阶段,利用个体间距离与目标值的相关性检测潜在子区域,并划分子种群以探索多个最优解。其次,进化前期,利用差分进化算法在每个子种群中进行全局搜索,以捕获多个最优解。在进化前期获取多个最优个体后,采用协方差矩阵自适应进化策略对最优个体开展局部搜索以提高最优解的质量。此外,提出了一种填充准则,可根据特定参数自适应选择合适的个体进行真实评价,以提升代理模型的精确性和泛化能力。最后,将所提算法与其他7种算法在20个测试函数上进行对比。结果表明:所提算法的PR指标在13个函数上取得了最优结果,且最多在5个函数上略差于对比算法,所提算法在求解昂贵多模态优化问题上性能良好。

关键词:昂贵多模态优化; 差分进化; 局部搜索; 代理辅助进化算法

多模态优化问题(multimodal optimization pro-blems, MMOPs)是指含有多个全局/局部最优解的问题[1-2]。在实际应用中,求解MMOPs往往需要调用昂贵的物理实验或耗时的仿真,例如药物分子设计[3]、电机优化[4]、建筑节能[5]等。这类求解成本(时间、计算资源等)高昂的MMOPs被称为昂贵多模态优化问题(expensive multimodal optimization problems, EMMOPs)[5]

当前,处理昂贵优化问题的方法有很多,代理模型辅助的进化算法(surrogate-assisted evolutionary-algorithms, SAEAs) 以其成本低廉、优化效率快等优势成为当前研究热点[6-7]。这种方法的核心思想是利用历史数据构建机器学习模型以替代真实的目标函数,将目标函数评价转换为对模型的评价,从而在寻优过程中降低算法对种群个体真实评价产生的计算成本[8]。最近,研究者对于昂贵优化问题的关注主要集中在高维昂贵优化问题、大规模昂贵优化问题、昂贵约束优化问题以及昂贵多目标优化问题[9]。然而,对于寻找多个全局最优解为特征的昂贵优化问题的研究较少[10]。针对解决低维度EMMOPs,Ji等[5]提出了一种双种群协同粒子群优化算法(dual-surrogate assisted cooperative particle swarm optimization, DSCPSO-EMM),种群A用来探索模态信息,种群B用来提高种群的收敛性,以双种群构建模态引导的合作代理模型来提高代理模型精度。同时,还提出了一种基于聚类和峰谷的混合策略来检测新的模态。之后,Ji等[11]将EMMOPs转化为多任务优化问题,提出了一种多代理辅助的多任务粒子群优化算法(multisurrogate-assisted multitasking particle swarm optimization, MAMPSO)。Du等[12]提出了一种基于知识迁移的代理辅助进化算法(surrogate-assisted evolutionary algorithm with knowledge transfer, SAKT-MMEA),该算法利用全局搜索和局部搜索的方法实现高效的模态搜索与开发并且通过知识迁移的方式促进不同种群间的信息交互,有效避免种群陷入局部最优。Gao等[9]提出了一种基于径向基函数模型的分解差分进化算法,采用均值漂移聚类预测前景子区域,在每个子区域中建立局部代理模型。Ji等[10]提出了一种基于代理模型的差分进化算法,利用自适应分解技术在初始阶段识别有前景的子区域,并基于多层感知机制建立全局代理模型辅助进化。针对高维度EMMOPs,Ji等[13]提出了一种代理和自编码器辅助的多任务粒子群优化算法,构建了一个自编码多任务框架将高维问题转化为多个低维子问题,并提出了一种模型管理机制,为每个模态生成适当的局部代理模型。此外,针对含约束优化问题,Dong等[14]提出了一种基于聚类空间搜索的代理模型辅助的全局优化算法,算法利用克里金模型预测多个局部最优解,并利用二次响应面拟合真实函数。上述算法在解决EMMOPs时,虽能获得多个最优解,但求得解的质量欠佳。因此,设计一种高效的模态检测方法以及平衡种群收敛性与多样性的策略,仍是高性能昂贵多模态算法研究中面临的技术挑战。

在有限的计算资源下,高效定位EMMOPs的多个最优解是当前SAEAs面临的研究难点[5]。具体表现在以下3个方面:①如何耗费较少的计算资源实现快速定位多个最优解;②如何在种群进化过程中平衡其收敛性和多样性,以实现多个最优解的有效搜索;③如何有效平衡代理模型预测精度和泛化能力。代理模型泛化能力不足将直接影响种群的多样性,而模型精度不高将降低最优解的求解质量。为解决这些研究难点,本文提出了一种基于区域分解的代理模型辅助多种群差分进化算法(surrogate-assisted multi-population differential evolution algorithm based on region decomposition, SAMDE)。本文的主要贡献如下:

(1)为高效定位多个最优解,提出了一种基于相关系数的区域分解技术。具体而言,在种群进化之前,根据个体距离与目标值之间的相关性,筛选出潜在的候选模态。随后以各模态为中心,通过计算个体与模态间的欧氏距离,为每个模态分配多个个体来构建多个子种群,以此引导种群向不同方向进化。

(2)为平衡种群的收敛性和多样性,在算法前期,每个子种群采用差分进化(differential evolution, DE)算法来探索模态信息,凭借其全局搜索能力维持种群多样性,避免过早陷入局部最优;在算法后期,引入协方差矩阵自适应进化策略(covariance matrix adaptation evolution strategy, CMA-ES)[12]对已知的模态进行局部搜索,利用其强局部收敛特性来提升个体的精度。

(3)为提升模型的泛化能力和精确度,提出了一种基于距离的自适应填充准则。该准则通过判断个体与现有数据集之间的距离选择需要真实评价的个体更新代理模型。

1 相关工作

进化算法(evolutionary algorithms, EAs)经常被用来解决各种具有非凸、动态、自由梯度信息等特征的复杂优化问题[15]。在EAs中,DE具有强大的全局搜索能力,收敛速度快,因此,本文采用DE作为优化器,采用径向基函数(radial basis function, RBF)模型预测函数的适应度。为了便于理解,本节给出了DE和RBF的详细描述,以及CMA-ES的相关知识。

1.1 差分进化算法DE

DE算法因其结构简单、搜索能力强,经常被用来解决复杂优化问题。在DE算法的进化过程中,主要有3大核心算子:交叉、变异和选择[16]。具体来说,首先,在决策空间内随机产生多个个体作为初始种群,记为其中,D表示决策空间的维度;np表示生成的个体数量。

在每一次迭代G中,每个个体都要执行变异操作生成变异向量。基本变异策略的表达式如下:

(1)

式中:r1r2为1~np互不相同的整数;F为缩放因子。

变异完成之后,在之间执行交叉操作,生成新的向量

(2)

式中:j=1,2,…,D;randj为[0,1]的随机数;Cr为交叉概率;k为1~D的均匀生成的随机整数。

最后,在之间选择更优秀的个体进入下一代:

(3)

式中:f(·)表示待最小化的目标函数。

1.2 协方差矩阵自适应进化策略CMA-ES

CMA-ES通过自适应调整协方差矩阵来估计搜索分布,从而高效地探索解空间[17]。与传统的EAs相比,CMA-ES不依赖梯度信息,具有很强的局部搜索能力,且能够处理高维、非凸问题。CMA-ES的核心是通过学习目标函数的地形来调整搜索方向和步长。核心公式[12]

xk+σN(0,C)=N(k,σ2C)。

(4)

式中:k表示采样分布的中心点;C表示协方差矩阵,它能够反映解空间中各维度的相关性和重要程度;σ表示步长,它决定了搜索的全局范围。因此,本文采用CMA-ES作为局部搜索算法来高效探索解空间并提高解的质量。

1.3 径向基函数模型RBF

RBF模型是一种常见的代理模型,常用于函数逼近、数据分类等任务[18-19]。本文将RBF模型作为代理模型来预测适应度值。RBF模型核心思想是利用径向基函数作为激活函数,将输入空间映射到高维特征空间,从而实现非线性问题的线性可分性。给定一组训练数据db={Xi|i=1,2,…,m},则拟合函数[20]可以表示为

(5)

式中:βi为对应基向量的权重系数;m表示训练数据的个数;φ(·)表示基函数。常见的基函数有线性函数、三次函数以及高斯函数等。本文选取三次函数作为基函数,即φ(·)=r3

2 SAMDE算法

在本节中,对SAMDE算法的具体内容进行了详细的阐述。首先,介绍了算法的整体框架,然后对区域分解种群划分策略和自适应填充采样策略做出了详细阐述。

2.1 SAMDE算法框架

算法1 SAMDE算法框架。 输入:种群P、最大评价次数FEsmax; 输出:多模态解。① 初始化种群P,并将其存入DB中;② FEs=P;③ 基于DB中的样本,构建代理模型;④ 将种群P划分为多个种群(见算法2)⑤ while FEs

算法1概述了SAMDE的框架。首先使用拉丁超立方采样(Latin hypercube sampling,LHS)初始化种群P,并对P中的个体进行真实评价。将所有个体的评价信息存储到存档DB中,利用DB构建一个RBF模型用于预测个体适应度。在优化之前,先采用基于相关系数的区域分解策略将种群P划分为多个子种群,保证种群能够朝着不同的区域进化。在迭代优化过程中,每个子种群利用DE产生子代并用RBF进行适应度评估。此外,为保证模型精度和泛化能力,采用基于距离的自适应填充采样准则选择优秀的个体进行真实评价来更新代理模型。在算法后期,采用CMA-ES对每个种群中最好的个体进行局部搜索,如果预测适应度值小于局部搜索前的适应度值则将其替换掉,否则不变。当达到终止条件,则输出DB中的多模态解。在算法的迭代运行过程中,虽然不同种群可能会收敛到相同的最优解,但是在优化过程中,不同种群之间产生的真实评估个体并没有浪费掉,而是去更新全局代理模型,从而提高了代理模型在该最优个体附近的精度,进而提高了找到的最优解的质量。

2.2 基于相关系数的区域分解策略

为了求解EMMOPs, 种群应当同时收敛到不同的最优解。为此,将初始化后的种群划分成多个子种群,每个子种群朝着不同方向进化。目前,最关键的问题是如何划分种群才能保证所划分的子种群尽可能对应单个模态。为此,本文提出了一种基于相关系数的区域分解策略,通过个体目标值和决策空间中距离之间的相关性来探索潜在的模态并为其分配合适的个体。

算法2 基于相关系数的区域分解。 输入:初始种群P、候选个体数目N、系数 β; 输出:子种群 {p1,p2,…,pps}。① 种群P中的个体按照适应度升序排列;② 将排序后的前N个个体存入候选集S;③ xbest←候选集S中最优的个体;④ PS=⌀;⑤ while S≥5 do⑥ 计算xbest到S中其余个体的距离d;⑦ 将S中的个体按照距离进行升序排列;⑧ PB←[0,f(xbest)];p[1]=1;⑨ for m=2 toS do⑩ PB=PB∪[dm,f(Sm)]; p[m]←计算PB中距离和适应度之间的相关系数; end for 相关系数中首次小于β的索引值n; PB=⌀, PS←PS∪[xbest,f(xbest)]; 从S中去除前n个个体; xbest ←S中适应度值最好的个体; end whileP′←将PS中的个体从P中剔除; 计算PS中的个体到P′中个体的距离; 每个个体被分配到距离最近的前P/PS个个体作为子种群pi; 从P′中剔除已经分配的个体; if P′≠⌀ then 计算P′中个体到每个种子的距离; 按照最小距离再分配给每个种子得到最终的子种群pi; end if

基于相关系数的区域分解策略流程如图1所示。首先,将初始种群P按照适应度值升序排列,选择前N个个体作为候选种子集S。然后,将适应度值最小的个体xbest存入种子集PS中。计算xbestS中剩余个体之间的欧氏距离,并将其按照升序排列。将xbest对应的距离和适应度值存放到PB中,xbest对应的距离为0。按照距离排序的顺序将剩余个体对应的距离和适应度值依次存储到PB中并计算对应的相关系数。最后,找到相关系数首次小于β的个体索引n,将该个体存储到PS中。从S中剔除前n个个体,重复上述操作,直到S中的个体数目小于5,输出PS

图1 基于相关系数的区域分解策略流程图
Figure 1 Flowchart of regional decomposition strategy based on correlation coefficient

为保证模态信息都尽可能地被探索,为每个种子重新分配了种群。首先将PS中的个体从种群P中剔除得到P′。然后计算每个种子到P′的距离并按照升序排列,每个种子被分配距离最近的前|P|/|PS|个个体作为其对应的子种群,注意每个子种群之间可能有重复的个体。最后将所选择的所有个体进一步从P′中剔除,剩余个体被分配到距离最近的种子,输出多个子种群P

2.3 填充采样准则

为保证代理模型能够拟合出问题的多个模态并且拟合出的模态尽可能地接近实际模态,提出了一种基于距离的自适应填充采样准则。该方法能够根据特定参数来自适应考虑模型的精确度和泛化能力。填充采样准则如算法3所示。

算法3 填充采样。 输入:子种群{p1,p2,…,pps}、存档DB、系数rmin、真实评价次数FEs; 输出:存档DB。① for i=1 to PS do② xmin←argminxj∈pi f(xj);③ dist←xmin到DB中所有个体的距离;④ if mindist>rminthen⑤ ftrue← 真实评价个体xmin;⑥ else⑦ for j=1 to pi do⑧ dj={djk=xj-yk2yk∈DB};⑨ dmin,j←mindj;⑩ end for xmin←arg maxxj∈pidmin,j; ftrue←真实评价个体xmin; end if FEs=FEs+1; DB←DB∪[xmin,fture]; end for

首先找到每个子种群中预测的适应度值最小的个体xmin,计算个体xminDB中所有个体的欧氏距离。若全部大于rmin,则意味着代理模型的精度不佳,考虑代理模型的收敛性,将个体xmin进行真实评价;否则,考虑代理模型的泛化能力。计算子种群中的每个个体到DB中所有个体的欧氏距离,找到每个个体到DB中个体的最小距离,然后选择具有最大最小距离的个体进行真实评价。最后,将真实评价个体存放到DB当中,输出DB

3 实验结果与分析

3.1 实验设置

作为昂贵优化领域的一个新兴研究问题,到目前为止,尚未有专门为 EMMOPs 设计完善的测试套件用于评估算法在寻找多个最优解方面的性能。因此,与昂贵多模态优化算法SAKT-EMM一样,选择了常用的来自IEEE CEC′2013[21]中的20个多模态基准测试函数。该测试集包含多模态优化领域常用的数据集以及多个局部最优解的问题。按测试函数难度划分种群数量NP和最大真实评价次数FEsmax:F1~F5的NP为200、FEsmax为500;F6~F15的NP为400、FEsmax为2 000;F16~F20的NP为800、FEsmax为4 000。所用的最大真实评价次数只有文献[21]中的1%。候选种子集的个数N=min(100,0.5NP),系数阈值β=0.8,缩放因子F=0.6,交叉概率Cr=0.8。本文中的rmin设置[11]

(6)

式中:D表示测试问题的维度;bubd表示问题的上下限。

3.2 评价指标

为了评估SAMDE的性能,采用了两种性能指标,即峰值比PR和成功率SR[22]。表1展示了SAMDE在基准测试集中在不同精度水平下的PRSR结果。

表1 SAMDE在不同精度水平下的PRSR结果
Table 1 PR and SR results of SAMDE at different accuracy levels

函数PRSR1E-011E-021E-031E-041E-051E-011E-021E-031E-041E-05F11.0001.0001.0001.0001.0001.0001.0001.0001.0001.000F21.0001.0001.0001.0001.0001.0001.0001.0001.0001.000F31.0001.0001.0001.0001.0001.0001.0001.0001.0001.000F41.0001.0001.0001.0000.9291.0001.0001.0001.0000.714F51.0001.0001.0001.0001.0001.0001.0001.0001.0001.000F60.4500.4190.3920.3620.32500000F70.4670.4190.3920.3620.32500000F80.0160.00600000000F90.1080.0810.0610.0490.03800000F101.0001.0001.0001.0001.0001.0001.0001.0001.0001.000F110.6670.6670.6670.6670.66700000F120.3990.3810.3630.3270.28000000F130.6670.6670.6670.6670.66700000F140.6670.6670.6670.6670.66700000F150.3990.3510.3150.2380.16100000F160.6670.6670.6670.6590.62700000F170.2860.2680.2500.2200.14900000F180.2540.2380.2220.1830.16700000F190.1070.0950.0240000000F200.1250.03000000000

(1)PR表示在精度范围内算法所找到的全局最优值在实验次数上的平均比率。

(7)

式中:NM表示实验的总次数;表示第j次实验中可接受的全局最优解的个数;G表示测试函数已知的最优解数量。

(2)SR表示所有实验中成功实验的比率。

(8)

式中:NS表示总成功实验次数。若在一次实验中找到所有的全局最优解,这样的实验即为一次成功实验。

本次实验采用了5个精度等级(ε=1E-01,1E-02,1E-03,1E-04,1E-05)。值得注意的是,与大多数文献类似,本文主要讨论ε=1E-04时的实验结果[22]

3.3 对比算法

为了验证SAMDE的性能,将SAMDE与4种多模态优化算法进行对比,即NCDE[22]:基于邻域拥挤策略的差分进化方法。MOMMOP[23]:将多模态问题转化为多目标优化问题,采用多目标优化算法求解。EMO-MMO[24]:基于密度指标且结合适应度的方法,包含景观近似与峰值检测。RS-CMEA-ESII[25]:基于改进协方差矩阵自适应进化策略与排斥子种群的静态和动态多峰优化方法。另外还有3种昂贵多模态优化算法,即DSCPSO-EMM[5]:采用双种群的进化方法,种群A用来探索模态信息,种群B来提高种群的收敛性。MAMPSO[11]:将昂贵多模态优化问题转化为多个任务,并用多个代理辅助进化。SAKT-EMM[12]:利用全局搜索和局部搜索的方法实现高效的模态搜索与开发。上述算法在相同条件下独立运行21次,其参数设置与原文保持一致,最终结果使用显著性水平的Wilcoxon检验进行分析。

3.4 参数灵敏度分析

为了研究参数β对所提算法性能的影响,设置了不同参数β下的对比实验。一般情况下,认为相关系数大于0.5则表示具有较强的相关性。故选择了0.5,0.6,0.7,0.8,0.9进行了相关对比分析。从上述算法介绍部分可知,参数β越大则被划分的子种群数目越多。过多的子种群导致找到最优解的质量不佳,过少的子种群会导致找到的最优解的个数变少。因此,选择合适的参数对于算法的性能至关重要。表2展示了SAMDE在不同参数β下的PR值。从表2中可以看出,β=0.8,0.9时,在20个测试函数中取得较好的效果,但当β=0.8时,算法取得的平均PR值要优于β=0.9。这表明,当β=0.8时,算法能够找到更多的最优解。综上所述,随着β增大,算法的性能逐步升高,这是子种群的数目较少,种群多样性较差导致找到的最优解数目较差。但当β=0.9时,算法的性能有所衰减,原因是子种群的数目过多,算法总体迭代次数减少,导致找到的最优解达不到所要求的精度。 因此,本文选择β=0.8。

表2 SAMDE在不同参数β下的PR
Table 2 PR values of SAMDE with different β

函数PR0.50.60.70.80.9F11.0001.0001.0001.0001.000F21.0001.0001.0001.0001.000F31.0001.0001.0001.0001.000F40.9881.0001.0001.0001.000F51.0001.0001.0001.0001.000F60.3620.3200.3170.3330.283F70.3470.3390.3440.3620.349F8000.00100F90.0470.0480.0500.0490.049F100.9961.0000.9961.0001.000F110.6590.6670.6670.6670.667F120.3390.3330.3150.3270.321F130.5950.6270.6510.6670.667F140.6510.6590.6670.6670.667F150.1960.1900.2080.2380.238F160.5080.5560.6270.6590.667F170.1850.1960.2140.2200.190F180.1670.1670.1670.1830.190F1900000F2000000平均值0.5020.5050.5110.5190.514

3.5 策略有效性验证

3.5.1 全局搜索和局部搜索有效性分析

在进化过程中,SAMDE使用DE作为全局搜索定位多个有希望的区域,CMA-ES作为局部搜索提升收敛性。为了证明两者的有效性,设计了两种SAMDE的变体:SAMDE_global,表示只包含全局搜索;SAMDE_local,表示只包含局部搜索。本小节主要由两部分组成:全局搜索有效性验证和局部搜索有效性验证。

(1)全局搜索有效性验证。在本实验中,SAMDE在所有测试函数中与其变体SAMDE_local进行比较来验证全局搜索寻找多模态解的能力。图2展示了在相同条件下两种算法在相同精度下的PR值。从图2中可以看出,SAMDE在每个测试问题上所找到的多模态解的数量远优于SAMDE_local。此外,SAMDE可以找到F1~F5以及F10的所有全局最优解。上述分析验证了全局搜索寻找多模态解的能力。

图2 SAMDE及其变体的PR
Figure 2 PR values of SAMDE and its variants

(2)局部搜索有效性验证。与单模态优化问题不同,多模态优化问题要保证找到的多个最优解都要逼近真实值。所以,为了验证局部搜索对于算法收敛性的影响,本节采用找到的全局最优解平均数来衡量算法的收敛性能[12]。图3展示了在相同条件下6个测试函数的全局最优解的平均数量随真实评价次数变化曲线图。从图3可以看出,在算法后期,SAMDE找到的全局最优解的数量始终优于其变体SAMDE_global。主要原因是在算法后期局部搜索的加入提高了全局搜索找到的全局最优解的质量。上述分析验证了局部搜索算法收敛性的能力。

图3 全局最优解的平均数量随真实评价次数变化曲线图
Figure 3 Curve graph of the average number of global optimal solutions varying with the number of real evaluations

3.5.2 填充采样策略的有效性验证

在进化过程中,代理模型的精度和泛化能力会对找到的最优解的质量和数量产生一定的影响。因此,本文从模型精度和泛化能力两个方面提出了一种填充采样策略。为了验证策略的有效性,设计了两种SAMDE的变体:SAMDE_L1表示只考虑其代理模型的泛化能力,即rmin=∞;SAMDE_L2表示只考虑代理模型精度,即rmin=0。表3展示了在相同条件下SAMDE算法及其变体在精确度ε=1E-04的PR值,最佳PR结果已经用黑体标出。表4展示了在相同条件下SAMDE与4种先进的多模态优化算法在精确度为ε=1E-04时的PR结果。由表3可知,在相同条件下,在20个测试函数当中,SAMDE的最佳PR个数为16个优于两种变体。与变体SAMDE_L1相比较,SAMDE考虑了选择真实评价的个体对于模型精度的影响,使得在局部搜索阶段算法能够更加准确地探索局部区域;与变体SAMDE_L2相比,SAMDE考虑了模型的泛化能力,使得种群能够朝着多个正确的方向进化。为了更好地展现模型的泛化能力,如图4所示,以函数F4,F6,F7为例,绘制了SAMDE与变体2在相同条件下算法找到的全局最优解的平均数量随真实评价次数的变化曲线。从图4中可以看出,SAMDE在每一阶段找到的最优解的数量始终优于变体2,从侧面反映出基于距离的采样准则在提升模型泛化能力方面的有效性。上述分析验证了填充采样策略在平衡模型精度和泛化性能的能力。

表3 SAMDE及其变体的PR
Table 3 PR results of SAMDE and its variants

测试函数PRSAMDESAMDE_L1SAMDE_L2F11.0001.0001.000F21.0001.0001.000F31.0001.0001.000F41.0000.9400.652F51.0001.0001.000F60.3330.3070.063F70.3620.3400.180F8000F90.0490.0450.019F101.0001.0000.917F110.6670.6670.667F120.3270.3040.232F130.6670.6670.643F140.6670.6590.643F150.2380.2140.131F160.6590.6510.595F170.2200.2260.179F180.1830.1670.167F19000F20000

表4 不同算法在ε=1E-04下的PR
Table 4 PR results of different algorithms with ε=1E-04

测试函数PRSAMDENCDEMOMMOPEMO-MMORS-CMEA-ESIISAKT-EMMDSCPSO-EMMMAMPSOF11.0000.533(+)0.967(+)0.000(+)0.500(+)1.000(=)0.500(+)1.000(=)F21.0000.107(+)0.173(=)0.320(+)0.200(+)1.000(=)0.192(+)0.819(+)F31.0000.133(+)0.133(+)0.133(+)1.000(=)1.000(=)1.000(=)1.000(=)F41.0000(+)0(+)0(+)0(+)0.929(+)0.200(+)0.929(+)F51.0000(+)0(+)0(+)0(+)1.000(=)1.000(=)1.000(+)F60.3330(+)0(+)0.059(+)0.167(+)0.008(+)0.047(+)0.164(+)F70.3620(+)0(+)0.017(+)0.111(+)0.263(+)0.022(+)0.173(+)F800(=)0(=)0.010(-)0.012(-)0(=)0.002(=)0(=)F90.0490(+)0(+)0.004(+)0.014(+)0.051(=)0.004(+)0.022(+)F101.0000.006(+)0.011(+)0.006(+)0.333(+)0.901(+)0.180(+)0.512(+)F110.6670(+)0(+)0(+)0.500(+)0.627(+)0.167(+)0.516(+)F120.3270(+)0(+)0(+)0.250(+)0.089(+)0.150(+)0.226(+)F130.6670(+)0(+)0(+)0.500(+)0.532(+)0.167(+)0.381(+)F140.6670(+)0(+)0(+)0.333(+)0.484(+)0.167(+)0.397(+)F150.2380(+)0(+)0(+)0.250(-)0.179(+)0.125(+)0.137(+)F160.6590(+)0(+)0(+)0.333(+)0.381(+)0.167(+)0.056(+)F170.2200(+)0(+)0(+)0.250(-)0.077(+)0.125(+)0.030(+)F180.1830(+)0(+)0(+)0(+)0.278(-)0.020(+)0(+)F1900(=)0(=)0(=)0(=)0.012(-)0(=)0(=)F2000(=)0(=)0(=)0(=)0(=)0(=)0(=)平均值0.5190.0390.0640.0270.2380.4410.2120.368

注:“+”表示SAMDE优于对比算法,“-”表示其性能劣于对比算法,“=”表示没有显著差异,粗体结果表示最佳结果。

图4 全局最优解的平均数量随真实评价次数变化曲线图
Figure 4 Curve graph of the average number of global optimal solutions varying with the number of real evaluations

3.6 与多模态优化算法的对比结果

由表4可知,在20个测试函数中,SAMDE中有18,18,17,14个测试函数显著优于NCDE、MOMMP、EMO-MMO、RS-CMEA-ESII。并且在20个测试函数中,有15个取得了最佳结果,获得的平均PR明显优于4种算法。值得注意的是,SAMDE几乎可以找到F1~F5的所有全局最优解。在有限的函数评估下,如果没有代理模型,传统的多模态优化算法难以实现良好的性能。上述结果表明,在有限计算资源下,对于含有多个最优解的昂贵多模态优化问题,相比于传统的多模态优化算法,SAMDE能够保证解质量的同时找到多个最优解。

3.7 与昂贵多模态优化算法的对比结果

表4也展示了SAMDE与7种先进的昂贵多模态优化算法在精确度为ε=1E-04时的PR结果。从表4中可以看出,SAMDE的测试函数取得了最佳结果。从秩和检验的结果可以看出,SAMDE中有11,15,15个测试问题显著优于SAKT-MMEA、DSCPSO-EMM、MAMPSO。上述结果表明,在相同的计算资源下,SAMDE相较于其他昂贵多模态优化算法有着明显的优势。此外,为比较4种算法的计算效率,对比了 SAMDE 算法与其他对比算法的运行时间,如图5所示。

图5 SAMDE及其对比算法运行时间折线图
Figure 5 Running time curves of SAMDE and comparison algorithms

由图5可知,在20个测试问题中,SAMDE 的运行时间在绝大多数问题上均优于其他对比算法,计算效率更高。这主要是因为 SAMDE 采用多种群进化方式,能在更新代理模型时为其提供更加丰富的函数信息。相比其他算法,其代理模型更新频率较低。通过比较分析和统计测试验证了SAMDE在解决昂贵多模态优化问题的运算效率和可靠性。

4 结论

为了在有限计算资源下获取多个最优解,本文提出了一种基于区域分解的代理辅助差分进化算法。在算法的初始阶段,采用基于相关系数的种群划分策略将种群划分为多个子种群使得种群能够朝着不同方向进化。在算法前期,利用DE进行全局搜索,探索出多个模态位置。在算法的后期阶段,引入CMA-ES 对每个子种群的最优个体进行局部搜索,提高了找到的最优解的质量。此外,所提出的自适应填充准则可以根据特定参数选择个体进行真实评价,有效平衡了代理模型的泛化能力和精确度。实验结果表明,在20个基准测试集中,SAMDE 在求解 EMMOPs时表现出优异的性能,能够在有限计算资源下高效获取多个高质量的全局最优解或者局部最优解,与其他典型算法相比,验证了所提算法在处理 EMMOPs 时的有效性和优越性。

尽管所提算法在处理EMMOPs问题上表现出较好的性能,但是针对当前工作研究较少,还有较多问题有待解决。首先,本文所研究的问题维度较低,针对高维度昂贵多模态优化问题尚待开展;其次,局部搜索策略所用到的算法有待进一步改进,以进一步增强算法的收敛性。

参考文献:

[1] 李航, 李敏强, 寇纪淞. 遗传算法求解多模态优化问题的动力性[J]. 自动化学报, 2008, 34(2): 180-187.LI H, LI M Q, KOU J S. Dynamical behavior of genetic algorithms on multi-modal optimization[J]. Acta Automatica Sinica, 2008, 34(2): 180-187.

[2] WANG Z J, ZHAN Z H, LIN Y, et al. Automatic niching differential evolution with contour prediction approach for multimodal optimization problems[J]. IEEE Transactions on Evolutionary Computation, 2020, 24(1): 114-128.

[3] 季新芳, 张勇, 巩敦卫, 等. 异构集成代理辅助的区间多模态粒子群优化算法[J]. 自动化学报, 2024, 50(9): 1831-1853.JI X F, ZHANG Y, GONG D W, et al. Interval multimodal particle swarm optimization algorithm assisted by heterogeneous ensemble surrogate[J]. Acta Automatica Sinica, 2024, 50(9): 1831-1853.

[4] BRAMERDORFER G, TAPIA J A, PYRHÖNEN J J, et al. Modern electrical machine design optimization: techniques, trends, and best practices[J]. IEEE Transactions on Industrial Electronics, 2018, 65(10): 7672-7684.

[5] JI X F, ZHANG Y, GONG D W, et al. Dual-surrogate-assisted cooperative particle swarm optimization for expensive multimodal problems[J]. IEEE Transactions on Evolutionary Computation, 2021, 25(4): 794-808.

[6] SONG Z S, WANG H D, HE C, et al. A Kriging-assisted two-archive evolutionary algorithm for expensive many-objective optimization[J]. IEEE Transactions on Evolutionary Computation, 2021, 25(6): 1013-1027.

[7] 李二超, 吴煜. 基于自适应采样策略的模糊分类代理辅助进化算法[J]. 郑州大学学报(工学版), 2025, 46(2): 51-59.LI E C, WU Y. Fuzzy classification surrogate-assisted evolutionary algorithm based on adaptive sampling strategy[J]. Journal of Zhengzhou University (Engineering Science), 2025, 46(2): 51-59.

[8] YU M Y, WU Z, LIANG J, et al. Surrogate-assisted PSO with archive-based neighborhood search for medium-dimensional expensive multi-objective problems[J]. Information Sciences, 2024, 666: 120405.

[9] GAO W F, WEI Z F, GONG M G, et al. Solving expensive multimodal optimization problem by a decomposition differential evolution algorithm[J]. IEEE Transactions on Cybernetics, 2023, 53(4): 2236-2246.

[10] JI J Y, TAN Z S, ZENG S Y, et al. A surrogate-assisted evolutionary algorithm for seeking multiple solutions of expensive multimodal optimization problems[J]. IEEE Transactions on Emerging Topics in Computational Intelligence, 2024, 8(1): 377-388.

[11] JI X F, ZHANG Y, GONG D W, et al. Multisurrogate-assisted multitasking particle swarm optimization for expensive multimodal problems[J]. IEEE Transactions on Cybernetics, 2023, 53(4): 2516-2530.

[12] DU W H, REN Z G, WANG J H, et al. A surrogate-assisted evolutionary algorithm with knowledge transfer for expensive multimodal optimization problems[J]. Information Sciences, 2024, 652: 119745.

[13] JI X F, ZHANG Y, HE C L, et al. Surrogate and autoencoder-assisted multitask particle swarm optimization for high-dimensional expensive multimodal problems[J]. IEEE Transactions on Evolutionary Computation, 2024, 28(4): 1009-1023.

[14] DONG H C, SONG B W, WANG P, et al. Surrogate-based optimization with clustering-based space exploration for expensive multimodal problems[J]. Structural and Multidisciplinary Optimization, 2018, 57(4): 1553-1577.

[15] OPARA K, ARABAS J. Comparison of mutation strategies in Differential Evolution-A probabilistic perspective[J]. Swarm and Evolutionary Computation, 2018, 39: 53-69.

[16] LIANG J, QIAO K J, YUE C T, et al. A clustering-based differential evolution algorithm for solving multimodal multi-objective optimization problems[J]. Swarm and Evolutionary Computation, 2021, 60: 100788.

[17] HANSEN N, OSTERMEIER A. Adapting arbitrary normal mutation distributions in evolution strategies: the covariance matrix adaptation[C]∥Proceedings of IEEE International Conference on Evolutionary Computation. Piscataway:IEEE, 2002: 312-317.

[18] CAI X W, GAO L, LI X Y, et al. Surrogate-guided differential evolution algorithm for high dimensional expensive problems[J]. Swarm and Evolutionary Computation, 2019, 48: 288-311.

[19] LI C, ZHANG Q S, PALADE V, et al. Multi-region hierarchical surrogate-assisted quantum-behaved particle swarm optimization for expensive optimization problems[J]. Expert Systems with Applications, 2025, 261: 125496.

[20] YU M Y, LIANG J, ZHAO K, et al. An aRBF surrogate-assisted neighborhood field optimizer for expensive problems[J]. Swarm and Evolutionary Computation, 2022, 68: 100972.

[21] LI X, ENGELBRECHT A, EPITROPAKIS M G.Benchmark functions for CEC′2013 special session and competitionon niching methods for multimodal functionoptimization[R]. RMIT University: evolutionary computation and machine learning Group, 2013.

[22] QU B Y, SUGANTHAN P N, LIANG J J. Differential evolution with neighborhood mutation for multimodal optimization[J]. IEEE Transactions on Evolutionary Computation, 2012, 16(5): 601-614.

[23] WANG Y, LI H X, YEN G G, et al. MOMMOP: multiobjective optimization for locating multiple optimal solutions of multimodal optimization problems[J]. IEEE Transactions on Cybernetics, 2015, 45(4): 830-843.

[24] CHENG R, LI M Q, LI K, et al. Evolutionary multiobjective optimization-based multimodal optimization: fitness landscape approximation and peak detection[J]. IEEE Transactions on Evolutionary Computation, 2018, 22(5): 692-706.

[25] AHRARI A, ELSAYED S, SARKER R, et al. Static and dynamic multimodal optimization by improved covariance matrix self-adaptation evolution strategy with repelling subpopulations[J]. IEEE Transactions on Evolutionary Computation, 2022, 26(3): 527-541.

Surrogate-assisted Multi-population Differential Evolution Algorithm Based on Region Decomposition

YU Mingyuan, PAN Wanli, LIANG Jing, YUE Caitong

(School of Electrical and Information Engineering, Zhengzhou University, Zhengzhou 450001, China)

Abstract: In expensive optimization problems, if the optimal solution of the problem was not unique, such problems were referred to as expensive multimodal optimization problems. However, it was extremely difficult to obtain multiple optimal solutions with limited computational resources. Moreover, existing surrogate-assisted evolutionary algorithms paid less attention to multimodal attributes. In view of this, a surrogate-assisted multi-population differential evolution algorithm based on region decomposition was proposed to solve expensive multimodal optimization problems. Firstly, in the population individual initialization stage, the correlation between inter-individual distances and objective values was used to detect potential sub-regions, and sub-populations were divided to explore multiple optimal solutions. Secondly, in the early stage of evolution, the differential evolution algorithm was used to perform global search in each sub-population to capture multiple optimal solutions. After multiple optimal individuals were obtained in the early stage of evolution, the covariance matrix adaptive evolution strategy was adopted to carry out local search on them to improve the quality of optimal solutions. In addition, an infilling criterion was proposed, which could adaptively select appropriate individuals for real evaluation according to specific parameters to improve the accuracy and generalization ability of the surrogate model. Finally, the proposed algorithm was compared with seven other algorithms on 20 test functions. The results showed that the proposed algorithm achieved optimal performance on 13 functions with the PR metric, and was slightly inferior to the comparison algorithms on at most 5 functions. Overall, the proposed algorithm exhibited excellent performance in solving expensive multimodal optimization problems.

Keywords: expensive multimodal optimization; differential evolution; local search; surrogate-assisted evolution algorithm

收稿日期:2025-09-06;修订日期:2025-11-26

基金项目:国家自然科学基金资助项目(62306285);国家自然科学基金区域创新发展联合基金重点项目(U23A20340);中国博士后科学基金资助项目(2023TQ0318, GZC20232397)

作者简介:于明渊(1990—),男,河南西峡人,郑州大学副研究员,博士,主要从事进化计算理论与应用研究,E-mail:mingyuan_yu@163.com。

引用本文:于明渊,潘万里,梁静,等.基于区域分解的代理辅助多种群差分进化算法[J]. 郑州大学学报(工学版),2026,47(2):16-26.(YU M Y,PAN W L,LIANG J,et al.Surrogate-assisted multi-population differential evolution algorithm based on region decomposition[J]. Journal of Zhengzhou University(Engineering Science),2026,47(2):16-26.)

文章编号:1671-6833(2026)02-0016-11

中图分类号: TP18;O224

文献标志码:A

doi:10.13705/j.issn.1671-6833.2026.02.002