RDEx: An effectiveness-driven hybrid Single-Objective optimizer that adaptively selects and combines multiple operators and strategies
摘要（Abstract）
差分进化（DE）算法在连续优化问题上表现出了卓越的性能。在DE的基础上，先进的变体算法在黑盒、边界约束问题上取得了显著更优的结果。然而，对于现实世界中多样化的问题，单一的算子或策略很少能够完全胜任；因此，混合算法在实践中通常能提供更好的效果和通用性。在这项工作中，我们通过融合先前DE变体中几种最具特色的策略来改进LSRTDE，以解决DE常见的弱点 ------探索能力有限 、种群多样性丧失 以及后期停滞。在CEC 2025单目标边界约束基准测试集上的评估表明，我们的扩展方法RDEx取得了迄今为止最先进的性能。
I 引言（ INTRODUCTION）
差分进化（Differential Evolution, DE）由 Storn 和 Price [1] 提出，因其简洁性和强大的探索能力，已成为连续全局优化领域的基石算法。DE已成功应用于工程设计、生物信息学、机器人学和神经架构搜索等多个领域。
尽管DE通常有效，但经典DE算法在保持探索与开发之间平衡方面面临挑战，尤其是在高维、多峰和约束优化问题中。在过去的二十年中，研究人员提出了众多DE变体以改进收敛速度、鲁棒性和自适应性。
SHADE [2] 引入了一种历史记忆机制来动态调整缩放因子 F F F 和交叉率 C R CR CR。L-SHADE [3] 通过实施线性种群规模缩减（LPSR）进一步扩展了该方法，使其在收敛后期阶段更加有效。JADE [4] 增加了基于存档的当前到p最佳（current-to-pbest）策略，在保持多样性的同时增强了局部开发能力。ILSHADE-RSP [5] 和 EBLSHADE [6] 则分别：（i）在交叉阶段向目标向量注入柯西分布扰动，以及（ii）引入了一种排名引导的差分算子，将搜索导向当前更优的解。最后，L-SRTDE[7] 作为CEC 2024的获胜算法，将LPSR与基于成功率的自适应学习相结合，实现了性能与稳定性的显著平衡。
尽管有这些创新，许多先进的DE变体仍受困于增加的算法复杂度，它们引入了多个控制参数或依赖于需要仔细调整的策略池 。此外，由于缺乏自发的多样性恢复机制，它们在面对欺骗性景观或约束可行域时，常常表现不佳。
为解决这些局限性，我们提出了 RDEx，一种参数少、自适应的DE变体，它引入了两个关键创新：
- 精英排序变异： 在收敛后期，RDEx将变异偏向种群中的精英个体，从而增强开发强度，在不牺牲稳定性的前提下加速收敛。
- 维度柯西扰动： 在交叉过程中，试验解的每个维度都可能基于柯西分布经历一个罕见的、重尾的扰动，这能有效重新引入多样性，并允许算法逃离局部极小值。
我们在CEC 2025基准测试集上对RDEx进行了评估，该测试集包含29个从单峰到混合及复合类型的实参数函数。RDEx成功将29个函数求解至既定精度阈值，其表现优于L-SHADE和L-SRTDE等竞争算法。该算法在不同维度问题上均展现出更优的收敛速度和鲁棒性。
II 方法（METHOD）
A. 种群初始化（Population Initialization）
设 D D D 表示问题的维度， N N N 表示种群规模。每个个体 x i , 0 \mathbf{x}{i,0} xi,0 在预定义的边界 [ l j , u j ] [l{j},u_{j}] [lj,uj] 内随机初始化：
x i , j , 0 ∼ U ( l j , u j ) , i = 1 , . . . , N ; j = 1 , . . . , D (1) x_{i,j,0}\sim\mathcal{U}(l_{j},u_{j}),\quad i=1,...,N;\ j=1,...,D \tag{1} xi,j,0∼U(lj,uj),i=1,...,N; j=1,...,D(1)
B. 变异与交叉（Mutation and Crossover）
在初始阶段，RDEx 采用 DE/rand/1 变异策略：
v i , g = x r 1 , g + F ⋅ ( x r 2 , g − x r 3 , g ) (2) \mathbf{v}{i,g}=\mathbf{x}{r_{1},g}+F\cdot(\mathbf{x}{r{2},g}-\mathbf{x}{r{3},g}) \tag{2} vi,g=xr1,g+F⋅(xr2,g−xr3,g)(2)
一旦收敛速度放缓，则采用基于精英的变异策略：
v i , g = x i , g + F ⋅ ( x b e s t , g − x i , g ) + F ⋅ ( x r 1 , g − x r 2 , g ) (3) \mathbf{v}{i,g}=\mathbf{x}{i,g}+F\cdot(\mathbf{x}{best,g}-\mathbf{x}{i,g})+F\cdot(\mathbf{x}{r{1},g}-\mathbf{x}{r{2},g})\tag{3} vi,g=xi,g+F⋅(xbest,g−xi,g)+F⋅(xr1,g−xr2,g)(3)
其中 x b e s t , g \mathbf{x}_{best,g} xbest,g 是排名最高的解。
交叉操作使用二项式逻辑按维度执行：
u i , j , g ′ = { v i , j , g , if r a n d ( ) < C R or j = j r a n d x i , j , g , otherwise (4) u^{\prime}{i,j,g}=\begin{cases}v{i,j,g},&\text{if }rand()<CR\text{ or }j=j_{rand}\\ x_{i,j,g},&\text{otherwise}\end{cases} \tag{4} ui,j,g′={vi,j,g,xi,j,g,if rand()<CR or j=jrandotherwise(4)
C. 柯西引导扰动（Cauchy-Guided Perturbation）
为防止停滞，以概率 p p p 独立地对每个维度施加一个罕见扰动：
u i , j , g = u i , j , g ′ + δ j , δ j ∼ Cauchy ( 0 , γ ) (5) u_{i,j,g}=u^{\prime}{i,j,g}+\delta{j},\quad \delta_{j}\sim\text{Cauchy}(0,\gamma) \tag{5} ui,j,g=ui,j,g′+δj,δj∼Cauchy(0,γ)(5)
D. 选择与替换（Selection and Replacement）
采用标准 DE 选择策略：
x i , g + 1 = { u i , g , if f ( u i , g ) ≤ f ( x i , g ) x i , g , otherwise (6) \mathbf{x}{i,g+1}=\begin{cases}\mathbf{u}{i,g},&\text{if }f(\mathbf{u}{i,g}) \leq f(\mathbf{x}{i,g})\\ \mathbf{x}_{i,g},&\text{otherwise}\end{cases}\tag{6} xi,g+1={ui,g,xi,g,if f(ui,g)≤f(xi,g)otherwise(6)
E. 混合率更新（Hybrid Rate Update）
精英引导变异率 β g \beta_{g} βg 动态计算如下：
β g = ∑ e l i t e ( f o l d − f n e w ) ∑ a l l ( f o l d − f n e w ) + ϵ (7) \beta_{g}=\frac{\sum_{elite}(f_{old}-f_{new})}{\sum_{all}(f_{old}-f_{new})+\epsilon}\tag{7} βg=∑all(fold−fnew)+ϵ∑elite(fold−fnew)(7)
其中 ϵ \epsilon ϵ 是一个防止除零的小常数。
III. 伪代码（PSEUDOCODE）
cpp
算法: RDEx - 基于能量平衡混合策略的差分进化算法
输入:
目标函数 f(x)
变量维度 D
最大评估次数 MaxFEs
种群大小 NP
边界约束 [Left, Right]
输出:
最优解 x_best
最优值 f_best
初始化:
// 随机数生成器初始化
初始化多个随机数生成器和分布函数
// 参数设置
MemorySize = 5
EB_hybrid_rate_init = 0.7
SuccessRate = 0.5
// 种群初始化
创建种群 Popul[NP][D]，随机填充在[Left, Right]范围内
创建前沿种群 PopulFront[NP][D]
初始化适应度数组 FitArr[NP] 和 FitArrFront[NP]
初始化记忆库 MemoryCr[MemorySize] = 1.0, MemoryF[MemorySize] = 1.0
初始化 EB_hybrid_flag[NP]
// 评估初始种群
对每个个体 i:
FitArr[i] = f(Popul[i])
更新全局最优解
根据适应度排序，填充前沿种群 PopulFront
主循环 (当 NFEval < MaxFEs):
// 参数自适应
meanF = 0.4 + tanh(SuccessRate*5)*0.25
sigmaF = 0.02
// 生成选择分布
根据指数分布生成 ComponentSelectorFront
根据线性分布生成 ComponentSelectorFront2 和 ComponentSelectorFront3
// 变异和交叉操作
对每个个体 TheChosenOne:
随机选择三个不同个体 prand, Rand1, Rand2
// F 和 Cr 参数生成
从正态分布生成 F ∈ [0,1]
从记忆库中选择 Cr 值并添加噪声
// EB混合策略选择
生成随机数 Rand_EB
如果 Rand_EB < EB_hybrid_rate:
// 使用EB策略
EB_hybrid_flag[TheChosenOne] = 1
重新选择 prand, Rand1, Rand2 使用特定分布
调用 EB_order 排序三个个体
从柯西分布或正态分布生成 F 和 Cr
应用边界约束到 F 和 Cr
执行EB变异策略:
Trial = PopulFront[TheChosenOne] +
F*(best - PopulFront[TheChosenOne]) +
F*(medium - worst)
否则:
// 使用经典DE策略
EB_hybrid_flag[TheChosenOne] = 0
执行经典DE变异策略:
Trial = PopulFront[TheChosenOne] +
F*(Popul[prand] - PopulFront[TheChosenOne]) +
F*(PopulFront[Rand1] - Popul[Rand2])
// 边界处理
对 Trial 中超出边界的变量进行重置
// 评估新解
TempFit = f(Trial)
如果 TempFit <= FitArrFront[TheChosenOne]:
将 Trial 添加到成功集
更新适应度和种群
记录成功的 F 和 Cr 值
// 环境选择
更新 EB_hybrid_rate 参数
SuccessRate = 成功个体数 / NP
动态调整种群大小
移除最差个体以维持种群大小
更新记忆库中的 F 和 Cr 值
// 种群维护
如果种群超限则进行排序和截断
更新代数计数器
返回: 全局最优解和最优值IV 实验与结果
A. 指标及如何阅读表 I
对于每个 CEC 2025 函数（F1-F29），我们进行了 25 次独立试验，并报告了最终 目标值的最优值/平均值/标准差/最差值 （值越小越好）。所有问题都是单目标边界约束问题，因此不存在可行性问题，也无需报告约束违反值。零或接近零的条目表示达到了目标精度（CEC 函数经过平移/旋转但具有已知的最优值；由于打印精度，数值零可能显示为 1 0 − k 10^{-k} 10−k）。
如何阅读：(i) 最优值-平均值-最差值行且标准差≈0（例如，F1-F5 中的几个单元格）意味着所有 25 次运行都具有高度稳定的收敛性；(ii) 最优值与平均值之间存在较大差距，同时标准差较大（例如，某些 F9/F12-F19/F25/F29 的单元格）表明部分运行中存在多峰性或后期停滞现象；(iii) 复合/混合函数（F21-F29）通常会产生较高的平均值和标准差，这是意料之中的，因为其难度增加了。所有数值均是在相同的评估预算下，根据每次运行的最终最佳解计算得出的。
B. 总体排名（U分数）
给定一组算法 A \mathcal{A} A 和函数 F \mathcal{F} F，我们使用平均 最终目标值作为主要标准（值越低越好）计算每个函数的排名。打破平局的顺序依次为：标准差 （越低越好）、然后是最优值 （越低越好）、接着是最差值 （越低越好）。对于算法 a ∈ A a\in\mathcal{A} a∈A，其聚合 U 分数为：
U ( a ) = ∑ m ∈ F r a n k m ( a ) U(a)=\sum_{m\in\mathcal{F}}\mathrm{rank}_{m}(a) U(a)=m∈F∑rankm(a)
且 U ( a ) U(a) U(a) 越低表示整体性能越好。为检验显著性，我们对每个函数的平均值（按函数配对）应用 Wilcoxon 符号秩检验，并采用 Holm-Bonferroni 校正，显著性水平 α = 0.05 \alpha=0.05 α=0.05。可选地，我们还报告效应大小 r = Z / ∣ F ∣ r=Z/\sqrt{|\mathcal{F}|} r=Z/∣F∣ ，并且在多算法比较中，进行 Friedman 检验及后续的 Nemenyi 事后分析。
表 I 展示了按 U 分数计算的排名（值越小越好）。LSRTDE 是 CEC'24 的冠军算法。在相同的 SOP 测试集上，RDEx 相较于先前的 SOP 算法取得了显著的改进，这进一步证实了 RDEx 机制的有效性。
参考文献（REFERENCES）
1\] R. Storn and K. Price, "Differential evolution-- a simple and efficient heuristic for global optimization over continuous spaces," J. Global Optim., vol. 11, no. 4, pp. 341--359, 1997. \[2\] R. Tanabe and A. Fukunaga, "Success-history based parameter adaptation for differential evolution," in Proc. IEEE CEC, pp. 71--78, 2013. \[3\] R. Tanabe and A. Fukunaga, "Improving the search performance of SHADE using linear population size reduction," in Proc. IEEE CEC, pp. 1658--1665, 2014. \[4\] J. Zhang and A. C. Sanderson, "JADE: Adaptive differential evolution with optional external archive," IEEE Trans. Evol. Comput., vol. 13, no. 5, pp. 945--958, 2009. \[5\] T. J. Choi and C. W. Ahn, "An improved LSHADE-RSP algorithm with the Cauchy perturbation: iLSHADE-RSP," Knowledge-Based Systems, vol. 215, Art. no. 106628, 2021 \[6\] Y. Song, D. Wu, A. W. Mohamed, X. Zhou, B. Zhang, and W. Deng, "Enhanced success history adaptive DE for parameter optimization of photovoltaic models," Complexity, vol. 2021, no. 1, Art. no. 6660115, 2021. \[7\] V. Stanovov et al., "Success Rate-based Adaptive Differential Evolution (L-SRTDE) for the CEC 2024 Competition," in Proc. IEEE CEC, 2024.