多目标超启发式算法系统文献综述：人机协同大语言模型方法论深度精读

摘要

本文是对Ghanbarzadeh等人于2026年发表在学术期刊上的系统文献综述论文《Systematic Literature Review of Multi-Objective Hyper-Heuristics: A Human-in-the-Loop Large Language Model Methodology》的深度精读。该论文对2005年至2025年间发表的236篇多目标超启发式算法（Multi-Objective Hyper-Heuristics, MOHHs）相关文献进行了系统性综述，采用人机协同大语言模型（HITL-LLM）方法论增强文献筛选与分析过程。本文在翻译原文献核心内容的基础上，系统补充了多目标优化理论、超启发式算法基础、Pareto最优性原理等理论知识，深入剖析了MOHH的方法论体系、应用领域、性能评估方法以及未来研究方向。文章通过丰富的理论推导、多个数据表格和Mermaid流程图，全面呈现了MOHH领域的研究现状与发展趋势，为相关研究者提供了深入理解该领域的系统性参考。

关键词：多目标优化；超启发式算法；元启发式算法；启发式生成；优化算法；大语言模型；人机协同

1 引言与研究背景

1.1 优化问题的本质与挑战

优化问题是计算科学、运筹学和工程领域的核心研究主题之一。从数学角度而言，优化问题的本质是在给定的约束条件下，寻找能够使目标函数达到最优值（最大值或最小值）的决策变量组合。构建一个完整的优化问题需要明确三个关键组成部分：决策变量、约束条件和目标函数。决策变量是优化算法需要求解的未知量，所有可能的决策变量取值组合构成了搜索空间。约束条件用于判断解的可行性，但可行性并不等同于解的质量，解的质量需要通过目标函数来评估。

现实世界中的优化问题往往具有高度的复杂性和多样性。传统的精确优化方法，如线性规划、整数规划、动态规划等，虽然在理论上能够保证找到全局最优解，但在面对大规模、高维度、非线性、多模态等复杂问题时，往往面临计算复杂度过高、求解时间过长甚至无法求解的困境。这些局限性促使研究者转向启发式和元启发式算法，这类算法通过引入随机性和启发式规则，能够在可接受的时间内找到高质量的近似最优解，尽管不能保证全局最优性。

然而，随着问题复杂度的不断增加，传统的元启发式算法也暴露出其固有的局限性。首先，大多数元启发式算法需要针对具体问题进行参数调优，不同的参数设置可能导致截然不同的求解效果；其次，算法的选择和配置往往依赖于领域专家的经验知识，缺乏系统性的指导原则；再次，当问题环境发生变化时，算法可能需要重新设计和调整，缺乏足够的适应性和泛化能力。正是在这样的背景下，超启发式算法应运而生，它通过在更高抽象层次上管理底层启发式算法的选择、生成和适应，旨在实现更高程度的自动化、适应性和问题独立性。

1.2 多目标优化的理论基础

多目标优化问题（Multi-Objective Optimization Problem, MOOP）是现实世界中普遍存在的一类优化问题。与单目标优化问题不同，多目标优化问题涉及多个相互冲突的目标函数，这些目标往往无法同时达到最优，需要在它们之间进行权衡和折中。多目标优化问题的数学形式可以表述为：

min⁡F(x)=(f1(x),f2(x),...,fm(x))Ts.t.x∈Ω \begin{aligned} \min \quad & \mathbf{F}(\mathbf{x}) = (f_1(\mathbf{x}), f_2(\mathbf{x}), \ldots, f_m(\mathbf{x}))^T \\ \text{s.t.} \quad & \mathbf{x} \in \Omega \end{aligned} mins.t.F(x)=(f1(x),f2(x),...,fm(x))Tx∈Ω

其中，x=(x1,x2,...,xn)T\mathbf{x} = (x_1, x_2, \ldots, x_n)^Tx=(x1,x2,...,xn)T 是决策空间 Ω\OmegaΩ 中的决策向量，F:Ω→Rm\mathbf{F}: \Omega \rightarrow \mathbb{R}^mF:Ω→Rm 定义了从决策空间到目标空间的映射，mmm 表示目标函数的数量。当 m≥4m \geq 4m≥4 时，问题被称为多目标优化问题；当 m>3m > 3m>3 时，通常称为多目标优化问题（Many-Objective Optimization Problem, MaOP）。

在多目标优化中，Pareto最优性是最核心的概念。给定两个解 x1\mathbf{x}_1x1 和 x2\mathbf{x}_2x2，如果对于所有目标函数 fif_ifi，都有 fi(x1)≤fi(x2)f_i(\mathbf{x}_1) \leq f_i(\mathbf{x}_2)fi(x1)≤fi(x2)，且至少存在一个目标函数 fjf_jfj 使得 fj(x1)<fj(x2)f_j(\mathbf{x}_1) < f_j(\mathbf{x}_2)fj(x1)<fj(x2)，则称 x1\mathbf{x}_1x1 Pareto支配 x2\mathbf{x}_2x2，记作 x1≺x2\mathbf{x}_1 \prec \mathbf{x}_2x1≺x2。如果决策空间中不存在任何解能够支配解 x∗\mathbf{x}^*x∗，则称 x∗\mathbf{x}^*x∗ 为Pareto最优解。所有Pareto最优解构成的集合称为Pareto最优解集（Pareto Set, PS），其在目标空间中的映射称为Pareto前沿（Pareto Front, PF）。
目标空间
决策空间
决策变量 x
约束条件
可行解集 Ω
目标函数 F: Ω → R^m
Pareto前沿 PF
权衡解集

多目标优化问题的求解目标通常包括两个方面：收敛性和多样性。收敛性要求算法找到的解集尽可能接近真实的Pareto前沿；多样性则要求解集在Pareto前沿上分布均匀，能够充分反映不同目标之间的权衡关系。这两个目标本身也存在冲突，需要在算法设计中加以平衡。

1.3 从元启发式到超启发式的演进

元启发式算法（Meta-heuristics）是一类高层次的、问题无关的算法框架，通过引入随机性和自适应机制来指导搜索过程。经典的元启发式算法包括遗传算法（Genetic Algorithm, GA）、模拟退火（Simulated Annealing, SA）、禁忌搜索（Tabu Search, TS）、粒子群优化（Particle Swarm Optimization, PSO）、差分进化（Differential Evolution, DE）等。这些算法通过探索和开发两个阶段的交替进行，在解空间中搜索高质量解。

然而，元启发式算法虽然声称具有问题无关性，但在实际应用中仍需要针对具体问题进行大量的参数调优和策略选择。例如，遗传算法需要设置种群大小、交叉概率、变异概率等参数；粒子群优化需要调整惯性权重、学习因子等参数。这些参数的最优设置往往因问题而异，缺乏通用的指导原则。

超启发式算法（Hyper-heuristics, HHs）的提出正是为了解决这一问题。超启发式算法是一种更高层次的启发式方法，其核心思想是在元启发式算法之上再构建一层抽象，通过自动选择、生成或适应底层启发式算法来求解问题。与元启发式算法直接操作解空间不同，超启发式算法操作的是启发式算法空间。
超启发式方法
反馈学习
问题实例
超启发式层
启发式选择/生成
底层启发式池
解空间搜索
最优解
传统方法
问题实例
元启发式算法
解空间搜索
最优解

超启发式算法的主要优势包括：（1）更高的抽象层次，减少了对具体问题知识的依赖；（2）更强的适应性，能够根据问题特征动态调整求解策略；（3）更好的泛化能力，同一超启发式框架可以应用于不同类型的问题；（4）更低的专家知识门槛，减少了对领域专家经验的依赖。

1.4 研究动机与文献来源

尽管超启发式算法在单目标优化领域已经得到了广泛的研究和应用，但针对多目标优化场景的系统研究相对较少。多目标优化问题的复杂性更高，需要在收敛性和多样性之间进行平衡，这对超启发式算法的设计提出了更高的要求。现有的综述文献大多聚焦于单目标超启发式算法或特定应用领域，缺乏对多目标超启发式算法的系统性梳理。

本文精读的文献来源于Ghanbarzadeh等人于2026年发表的系统性文献综述，该研究采用PRISMA（Preferred Reporting Items for Systematic Reviews and Meta-Analyses）指南和Kitchenham章程，对2005年至2025年间发表的236篇多目标超启发式算法相关文献进行了全面分析。研究采用人机协同大语言模型（Human-in-the-Loop Large Language Model, HITL-LLM）方法论，利用ChatGPT-4o辅助文献筛选和数据提取，同时由领域专家进行验证和修正，确保了研究过程的效率和准确性。

该研究提出了四个核心研究问题：（1）多目标超启发式算法最常见的应用领域是什么？（2）这些应用中主要采用了哪些方法论和算法？（3）现有文献中识别出的关键挑战和局限性是什么？（4）为什么超启发式算法特别适合解决多目标优化问题？本文将围绕这些问题展开深入分析。

2 多目标优化理论体系

2.1 多目标优化问题的数学建模

多目标优化问题的数学建模是理解和求解此类问题的基础。一个完整的多目标优化问题可以形式化表示为：

min⁡F(x)=(f1(x),f2(x),...,fm(x))Ts.t.gi(x)≤0,i=1,2,...,phj(x)=0,j=1,2,...,qx∈Ω⊆Rn \begin{aligned} \min \quad & \mathbf{F}(\mathbf{x}) = (f_1(\mathbf{x}), f_2(\mathbf{x}), \ldots, f_m(\mathbf{x}))^T \\ \text{s.t.} \quad & g_i(\mathbf{x}) \leq 0, \quad i = 1, 2, \ldots, p \\ & h_j(\mathbf{x}) = 0, \quad j = 1, 2, \ldots, q \\ & \mathbf{x} \in \Omega \subseteq \mathbb{R}^n \end{aligned} mins.t.F(x)=(f1(x),f2(x),...,fm(x))Tgi(x)≤0,i=1,2,...,phj(x)=0,j=1,2,...,qx∈Ω⊆Rn

其中，gi(x)g_i(\mathbf{x})gi(x) 和 hj(x)h_j(\mathbf{x})hj(x) 分别表示不等式约束和等式约束，Ω\OmegaΩ 为决策空间。目标函数向量 F(x)\mathbf{F}(\mathbf{x})F(x) 将决策空间映射到目标空间 Rm\mathbb{R}^mRm。

在多目标优化中，由于目标函数之间通常存在冲突关系，不存在能够同时使所有目标函数达到最优的单一解。因此，多目标优化的目标不是寻找单一的最优解，而是寻找一组Pareto最优解，这组解代表了不同目标之间的最佳权衡关系。

决策空间与目标空间的关系是多目标优化的核心概念。决策空间是决策变量所有可能取值的集合，而目标空间是目标函数值构成的向量空间。从决策空间到目标空间的映射可能是非线性的、多模态的，这增加了问题的求解难度。在某些情况下，决策空间的局部最优解可能映射到目标空间的全局最优区域，反之亦然，这种现象被称为目标空间与决策空间的非一致性。

2.2 Pareto最优性与支配关系

Pareto最优性是多目标优化理论的基石，由意大利经济学家Vilfredo Pareto于19世纪末提出。在多目标优化语境下，Pareto最优性定义了一组解的质量评判标准。

定义1（Pareto支配） ：设 x1,x2∈Ω\mathbf{x}_1, \mathbf{x}_2 \in \Omegax1,x2∈Ω，称 x1\mathbf{x}_1x1 Pareto支配 x2\mathbf{x}_2x2（记作 x1≺x2\mathbf{x}_1 \prec \mathbf{x}_2x1≺x2），当且仅当：

∀i∈{1,2,...,m}:fi(x1)≤fi(x2)且∃j∈{1,2,...,m}:fj(x1)<fj(x2) \forall i \in \{1, 2, \ldots, m\}: f_i(\mathbf{x}_1) \leq f_i(\mathbf{x}_2) \quad \text{且} \quad \exists j \in \{1, 2, \ldots, m\}: f_j(\mathbf{x}_1) < f_j(\mathbf{x}_2) ∀i∈{1,2,...,m}:fi(x1)≤fi(x2)且∃j∈{1,2,...,m}:fj(x1)<fj(x2)

定义2（Pareto最优解） ：解 x∗∈Ω\mathbf{x}^* \in \Omegax∗∈Ω 称为Pareto最优解，当且仅当不存在 x∈Ω\mathbf{x} \in \Omegax∈Ω 使得 x≺x∗\mathbf{x} \prec \mathbf{x}^*x≺x∗。

定义3（Pareto最优解集）：所有Pareto最优解构成的集合称为Pareto最优解集：

PS={x∗∈Ω∣∄x∈Ω:x≺x∗} PS = \{\mathbf{x}^* \in \Omega \mid \nexists \mathbf{x} \in \Omega: \mathbf{x} \prec \mathbf{x}^*\} PS={x∗∈Ω∣∄x∈Ω:x≺x∗}

定义4（Pareto前沿）：Pareto最优解集在目标空间中的映射称为Pareto前沿：

PF={F(x∗)∣x∗∈PS} PF = \{\mathbf{F}(\mathbf{x}^*) \mid \mathbf{x}^* \in PS\} PF={F(x∗)∣x∗∈PS}

Pareto支配关系具有传递性和非对称性，但不具有完全性，即对于某些解对，可能既不存在支配关系也不存在被支配关系，这些解被称为互不支配解。互不支配解的存在是多目标优化区别于单目标优化的关键特征。
目标空间中的支配关系
支配
支配
互不支配
互不支配
互不支配
解A: f1=2, f2=3
解B: f1=3, f2=4
解C: f1=4, f2=3
解D: f1=1, f2=5
解E: f1=3, f2=2

在实际应用中，Pareto前沿的形状和特征对算法设计有重要影响。凸Pareto前沿（Convex PF）表示目标之间的权衡关系相对平缓，而非凸Pareto前沿（Non-convex PF）则表示存在急剧的权衡变化。连续Pareto前沿可以用数学函数描述，而离散Pareto前沿则由有限个点组成。了解Pareto前沿的几何特征有助于选择合适的优化算法和性能评估指标。

2.3 多目标优化算法分类

多目标优化算法可以根据不同的标准进行分类。按照求解策略，可以分为标量化方法和非标量化方法两大类。

2.3.1 标量化方法

标量化方法通过将多目标问题转化为单目标问题来求解。最经典的标量化方法是加权求和法（Weighted Sum Method），其目标函数为：

min⁡Fws(x)=∑i=1mwifi(x) \min \quad F_{ws}(\mathbf{x}) = \sum_{i=1}^{m} w_i f_i(\mathbf{x}) minFws(x)=i=1∑mwifi(x)

其中，wi≥0w_i \geq 0wi≥0 且 ∑i=1mwi=1\sum_{i=1}^{m} w_i = 1∑i=1mwi=1。通过改变权重向量的取值，可以获得Pareto前沿上的不同解。然而，加权求和法无法找到非凸Pareto前沿上的解，这是其主要的局限性。

ε-约束法（ε-Constraint Method）是另一种常用的标量化方法，它将除一个目标外的所有目标转化为约束条件：

min⁡fk(x)s.t.fi(x)≤ϵi,i≠k \begin{aligned} \min \quad & f_k(\mathbf{x}) \\ \text{s.t.} \quad & f_i(\mathbf{x}) \leq \epsilon_i, \quad i \neq k \end{aligned} mins.t.fk(x)fi(x)≤ϵi,i=k

ε-约束法能够找到非凸Pareto前沿上的解，但需要合理设置ε值，且计算效率较低。

切比雪夫标量化函数（Tchebycheff Scalarizing Function）定义为：

min⁡gte(x∣z∗,λ)=max⁡i=1,...,m{λi∣fi(x)−zi∗∣} \min \quad g_{te}(\mathbf{x}|\mathbf{z}^*, \boldsymbol{\lambda}) = \max_{i=1,\ldots,m} \{\lambda_i |f_i(\mathbf{x}) - z_i^*|\} mingte(x∣z∗,λ)=i=1,...,mmax{λi∣fi(x)−zi∗∣}

其中，z∗=(z1∗,z2∗,...,zm∗)T\mathbf{z}^* = (z_1^*, z_2^*, \ldots, z_m^*)^Tz∗=(z1∗,z2∗,...,zm∗)T 是理想点，λ=(λ1,λ2,...,λm)T\boldsymbol{\lambda} = (\lambda_1, \lambda_2, \ldots, \lambda_m)^Tλ=(λ1,λ2,...,λm)T 是权重向量。切比雪夫方法能够找到任意形状Pareto前沿上的解，是分解类多目标进化算法的基础。

2.3.2 非标量化方法

非标量化方法直接在目标空间中进行搜索，不依赖于标量化函数。Pareto支配方法是最典型的非标量化方法，它通过比较解之间的支配关系来引导搜索过程。经典的Pareto支配算法包括NSGA-II（Non-dominated Sorting Genetic Algorithm II）、SPEA2（Strength Pareto Evolutionary Algorithm 2）等。

基于分解的方法（Decomposition-based Methods）将多目标问题分解为若干子问题，通过协同求解这些子问题来逼近Pareto前沿。MOEA/D（Multi-Objective Evolutionary Algorithm based on Decomposition）是这类方法的代表，它使用权重向量将多目标问题分解为多个单目标子问题，并通过邻域信息交换来加速收敛。

基于指标的方法（Indicator-based Methods）直接优化某个性能指标，如超体积（Hypervolume）、R2指标等。IBEA（Indicator-Based Evolutionary Algorithm）是这类方法的典型代表，它将性能指标作为适应度函数，引导种群向高性能区域进化。

表1：多目标优化算法分类与特点

算法类别	代表算法	核心思想	优势	局限性
Pareto支配	NSGA-II, SPEA2	基于支配关系排序	概念清晰，易于实现	高维目标时区分能力下降
分解方法	MOEA/D, NSGA-III	问题分解为子问题	收敛性好，可扩展	需要合理设置权重向量
指标方法	IBEA, HypE	直接优化性能指标	目标明确，灵活性强	计算复杂度较高
标量化方法	加权求和, ε-约束	转化为单目标问题	可利用成熟单目标算法	难以处理非凸前沿

2.4 性能评估指标体系

多目标优化算法的性能评估是一个复杂的问题，需要同时考虑收敛性和多样性两个方面。常用的性能评估指标可以分为以下几类：

2.4.1 收敛性指标

收敛性指标衡量算法找到的解集与真实Pareto前沿之间的距离。生成距离（Generational Distance, GD）是最常用的收敛性指标之一：

GD=∑i=1∣P∣di2∣P∣ GD = \frac{\sqrt{\sum_{i=1}^{|P|} d_i^2}}{|P|} GD=∣P∣∑i=1∣P∣di2

其中，PPP 是算法找到的解集，did_idi 是解 iii 到真实Pareto前沿的最小欧氏距离。GD值越小，表示解集越接近真实Pareto前沿。

反转生成距离（Inverted Generational Distance, IGD）是GD的扩展，它计算真实Pareto前沿上的参考点到解集的最小距离：

IGD=∑i=1∣P∗∣di∗∣P∗∣ IGD = \frac{\sum_{i=1}^{|P^*|} d_i^*}{|P^*|} IGD=∣P∗∣∑i=1∣P∗∣di∗

其中，P∗P^*P∗ 是真实Pareto前沿上的参考点集，di∗d_i^*di∗ 是参考点 iii 到解集的最小距离。IGD同时考虑了收敛性和多样性，是更全面的性能指标。

2.4.2 多样性指标

多样性指标衡量解集在Pareto前沿上的分布均匀程度。扩展性（Spread, Δ）指标定义为：

Δ=df+dl+∑i=1∣P∣−1∣di−dˉ∣df+dl+(∣P∣−1)dˉ \Delta = \frac{d_f + d_l + \sum_{i=1}^{|P|-1} |d_i - \bar{d}|}{d_f + d_l + (|P|-1)\bar{d}} Δ=df+dl+(∣P∣−1)dˉdf+dl+∑i=1∣P∣−1∣di−dˉ∣

其中，dfd_fdf 和 dld_ldl 分别是解集边界点到真实Pareto前沿边界的距离，did_idi 是相邻解之间的距离，dˉ\bar{d}dˉ 是平均距离。Δ值越小，表示解集分布越均匀。

间距（Spacing, S）指标衡量解集中相邻解之间距离的一致性：

S=1∣P∣−1∑i=1∣P∣(dˉ−di)2 S = \sqrt{\frac{1}{|P|-1} \sum_{i=1}^{|P|} (\bar{d} - d_i)^2} S=∣P∣−11i=1∑∣P∣(dˉ−di)2

其中，did_idi 是解 iii 到解集中其他解的最小距离，dˉ\bar{d}dˉ 是平均最小距离。

2.4.3 综合指标

超体积（Hypervolume, HV）是最重要的综合性能指标，它衡量解集所支配的目标空间体积：

HV=Λ(⋃x∈P[F(x),zref]) HV = \Lambda\left(\bigcup_{\mathbf{x} \in P} [\mathbf{F}(\mathbf{x}), \mathbf{z}^{ref}]\right) HV=Λ(x∈P⋃[F(x),zref])

其中，Λ\LambdaΛ 表示勒贝格测度，zref\mathbf{z}^{ref}zref 是参考点。超体积越大，表示解集质量越高。超体积指标同时考虑了收敛性和多样性，且不需要知道真实Pareto前沿，是实际应用中最常用的性能指标。

R2指标是另一种综合指标，定义为：

R2=1∣Λ∣∑λ∈Λmin⁡x∈P{gte(x∣z∗,λ)} R2 = \frac{1}{|\Lambda|} \sum_{\boldsymbol{\lambda} \in \Lambda} \min_{\mathbf{x} \in P} \{g_{te}(\mathbf{x}|\mathbf{z}^*, \boldsymbol{\lambda})\} R2=∣Λ∣1λ∈Λ∑x∈Pmin{gte(x∣z∗,λ)}

其中，Λ\LambdaΛ 是权重向量集合，gteg_{te}gte 是切比雪夫标量化函数。R2指标计算效率较高，适合高维目标问题。

3 超启发式算法理论框架

3.1 超启发式算法的定义与内涵

超启发式算法是一种高层次的启发式方法，其核心特征是在启发式算法空间而非解空间中进行搜索。根据Burke等人的经典定义，超启发式算法是"一种用于选择或生成启发式算法的自动化方法"。这一定义强调了超启发式算法的两个关键属性：自动化和启发式管理。

与传统启发式算法直接操作问题解不同，超启发式算法将底层启发式算法视为操作对象。底层启发式算法（Low-Level Heuristics, LLHs）是针对具体问题设计的启发式规则或算法，如局部搜索算子、交叉算子、变异算子等。超启发式算法通过选择、组合或生成这些底层启发式算法来构建问题求解策略。

超启发式算法的工作流程可以概括为以下步骤：首先，定义一组底层启发式算法池；然后，超启发式层根据当前搜索状态和性能反馈，选择或生成适当的底层启发式算法；接着，执行选定的底层启发式算法对问题解进行操作；最后，根据操作结果更新超启发式的决策策略。这一过程循环进行，直到满足终止条件。
解空间
底层启发式层
超启发式层
选择
生成
适应
性能反馈
问题实例
超启发式控制器
启发式管理策略
启发式选择
启发式生成
启发式适应
底层启发式池
LLH1: 局部搜索
LLH2: 交叉算子
LLH3: 变异算子
LLH4: ...
解操作
新解

3.2 超启发式算法的分类体系

超启发式算法可以根据不同的维度进行分类。最常用的分类方式是根据启发式管理策略，将超启发式算法分为选择型超启发式（Selection Hyper-heuristics）和生成型超启发式（Generation Hyper-heuristics）两大类。

3.2.1 选择型超启发式

选择型超启发式从预定义的底层启发式池中选择一个或多个启发式算法来执行。选择过程可以基于简单的规则，如轮盘赌选择、锦标赛选择等，也可以基于复杂的机器学习模型，如强化学习、神经网络等。

选择型超启发式的核心组件包括：

启发式选择机制：决定在每一步选择哪个底层启发式算法。常用的选择机制包括：

简单随机选择（Simple Random）：随机选择一个底层启发式
轮盘赌选择（Roulette Wheel）：根据历史性能加权随机选择
锦标赛选择（Tournament）：从候选集中选择表现最好的
基于学习的选择：利用机器学习模型预测最优选择

移动接受机制：决定是否接受底层启发式产生的解。常用的接受机制包括：

改进接受（Only Improving）：仅接受优于当前解的新解
改进或相等接受（Improving and Equal）：接受不劣于当前解的新解
全接受（All Moves）：接受所有新解
模拟退火接受（Simulated Annealing）：以一定概率接受劣解
大洪水接受（Great Deluge）：基于阈值动态调整接受标准

学习机制：根据历史性能调整选择策略。常用的学习方法包括：

选择函数（Choice Function）：综合考虑近期改进、长期性能和执行时间
多臂老虎机（Multi-Armed Bandit）：平衡探索与开发
强化学习（Reinforcement Learning）：通过奖励信号学习最优策略

3.2.2 生成型超启发式

生成型超启发式自动创建新的启发式算法，而不是从预定义池中选择。生成方法通常基于遗传编程（Genetic Programming, GP）、语法进化（Grammatical Evolution, GE）等技术。

生成型超启发式的核心思想是将启发式算法表示为可进化的程序结构。在遗传编程框架下，启发式算法被编码为树形结构，其中内部节点表示操作符，叶节点表示终端（变量、常数等）。通过遗传操作（交叉、变异），可以产生新的启发式算法。

生成型超启发式的主要优势包括：

能够发现人类专家未曾想到的启发式规则
生成的启发式可以更好地适应特定问题实例
提供了启发式设计的自动化途径

然而，生成型超启发式也面临一些挑战：

搜索空间巨大，计算成本高
生成的启发式可能缺乏可解释性
需要精心设计程序结构和进化算子

3.2.3 混合型超启发式

混合型超启发式结合了选择型和生成型的特点。例如，可以先使用生成型方法创建一组初始启发式，然后使用选择型方法动态选择这些启发式。另一种混合方式是在运行时根据问题特征决定是选择现有启发式还是生成新启发式。

表2：超启发式算法分类与特征对比

类型	核心机制	代表方法	优势	局限性
选择型	从预定义池中选择启发式	选择函数、强化学习、多臂老虎机	计算效率高，易于实现	依赖启发式池质量
生成型	自动创建新启发式	遗传编程、语法进化	可发现新颖启发式	计算成本高，可解释性差
混合型	结合选择与生成	自适应混合框架	灵活性强	设计复杂度高

3.3 学习机制与适应策略

学习机制是超启发式算法实现智能决策的关键。根据学习发生的时间，可以将学习机制分为离线学习（Offline Learning）和在线学习（Online Learning）两类。

3.3.1 离线学习

离线学习在问题求解之前进行，通过在训练问题集上的学习，获取启发式选择或生成的知识。离线学习的典型方法包括：

案例推理（Case-Based Reasoning）：存储历史问题实例及其最优启发式选择，当遇到新问题时，检索相似历史案例并应用相应的启发式策略。案例推理的关键是定义合适的相似性度量。

机器学习分类器：将问题特征作为输入，最优启发式作为输出标签，训练分类模型。当遇到新问题时，提取问题特征并使用训练好的模型预测最优启发式。常用的分类器包括决策树、支持向量机、神经网络等。

元学习（Meta-Learning） ：学习如何学习，即从多个学习任务中提取通用知识，加速新任务的学习过程。元学习在超启发式中的应用包括学习启发式选择的先验知识、快速适应新问题类型等。

3.3.2 在线学习

在线学习在问题求解过程中进行，根据实时性能反馈调整决策策略。在线学习的典型方法包括：

选择函数（Choice Function）：选择函数综合考虑三个因素：近期改进（f1）、长期性能（f2）和执行时间（f3）。选择函数的形式为：

F(h)=αf1(h)+βf2(h)+γf3(h) F(h) = \alpha f_1(h) + \beta f_2(h) + \gamma f_3(h) F(h)=αf1(h)+βf2(h)+γf3(h)

其中，α,β,γ\alpha, \beta, \gammaα,β,γ 是权重参数，用于平衡不同因素的影响。选择函数简单有效，是应用最广泛的学习机制之一。

多臂老虎机（Multi-Armed Bandit, MAB）：将底层启发式选择建模为多臂老虎机问题，每个底层启发式对应一个臂。MAB算法需要在探索（尝试未充分测试的启发式）和开发（选择历史表现最好的启发式）之间取得平衡。常用的MAB算法包括ε-贪婪、上置信界（Upper Confidence Bound, UCB）、Thompson采样等。

UCB算法的选择策略为：

h∗=arg⁡max⁡h[rˉh+cln⁡nnh] h^* = \arg\max_h \left[\bar{r}_h + c\sqrt{\frac{\ln n}{n_h}}\right] h∗=arghmax[rˉh+cnhlnn ]

其中，rˉh\bar{r}_hrˉh 是启发式 hhh 的平均奖励，nnn 是总选择次数，nhn_hnh 是启发式 hhh 被选择的次数，ccc 是探索参数。

强化学习（Reinforcement Learning, RL）：将超启发式决策过程建模为马尔可夫决策过程（MDP），通过与环境交互学习最优策略。强化学习的核心要素包括状态（搜索状态、问题特征）、动作（选择哪个启发式）、奖励（解质量改进）。常用的强化学习算法包括Q学习、SARSA、深度Q网络（DQN）等。

Q学习的更新公式为：

Q(s,a)←Q(s,a)+α[r+γmax⁡a′Q(s′,a′)−Q(s,a)] Q(s,a) \leftarrow Q(s,a) + \alpha[r + \gamma \max_{a'} Q(s',a') - Q(s,a)] Q(s,a)←Q(s,a)+α[r+γa′maxQ(s′,a′)−Q(s,a)]

其中，sss 是当前状态，aaa 是采取的动作，rrr 是获得的奖励，s′s's′ 是新状态，α\alphaα 是学习率，γ\gammaγ 是折扣因子。
开始搜索
提取状态特征
选择启发式
执行操作
计算奖励
更新Q值/策略
满足终止条件
初始化
状态感知
策略决策
启发式执行
性能评估
策略更新

3.4 超启发式算法的理论基础

尽管超启发式算法的研究主要集中于实证研究，但近年来也出现了一些重要的理论成果。这些理论工作为超启发式算法的有效性提供了数学解释。

3.4.1 收敛性分析

收敛性分析研究超启发式算法是否能够收敛到最优解或近似最优解。对于选择型超启发式，收敛性取决于底层启发式池的性质和选择策略。如果底层启发式池包含能够达到最优解的启发式，且选择策略能够以非零概率选择这些启发式，则在一定条件下可以证明收敛性。

对于生成型超启发式，收敛性分析更加复杂。遗传编程的理论研究表明，在满足一定条件下（如精英保留、种群大小足够大），遗传编程可以概率收敛到全局最优。然而，这些条件在实际应用中往往难以满足。

3.4.2 计算复杂性

超启发式算法的计算复杂性包括两个层面：超启发式层的管理开销和底层启发式的执行开销。选择型超启发式的管理开销通常较低，主要是选择决策的计算成本。生成型超启发式的管理开销较高，因为需要执行遗传编程等复杂的进化过程。

从问题求解的角度，超启发式算法的时间复杂度可以表示为：

Ttotal=Thh+∑i=1NTllhi T_{total} = T_{hh} + \sum_{i=1}^{N} T_{llh_i} Ttotal=Thh+i=1∑NTllhi

其中，ThhT_{hh}Thh 是超启发式层的总开销，TllhiT_{llh_i}Tllhi 是第 iii 次调用底层启发式的开销，NNN 是底层启发式调用总次数。

3.4.3 泛化能力

泛化能力是超启发式算法的核心优势之一，指的是在一个问题集上学习到的策略能够有效应用于其他问题。泛化能力的理论分析涉及机器学习中的泛化理论，如VC维、Rademacher复杂度等概念。

研究表明，超启发式算法的泛化能力受到以下因素影响：

训练问题集的代表性
问题特征的提取质量
学习模型的复杂度
底层启发式池的多样性

4 多目标超启发式算法方法论

4.1 多目标超启发式算法的定义与特征

多目标超启发式算法（Multi-Objective Hyper-Heuristics, MOHHs）是将超启发式算法应用于多目标优化问题的方法论框架。MOHHs继承了超启发式算法的高层次抽象特性，同时针对多目标优化的特殊需求进行了扩展和适应。

MOHHs的核心特征包括：

多目标感知：MOHHs需要感知多目标优化的特殊状态，如当前解集的收敛程度、多样性水平、Pareto前沿的逼近程度等。这些状态信息用于指导启发式选择或生成决策。

权衡管理：在多目标优化中，不同目标之间存在权衡关系。MOHHs需要在收敛性和多样性之间进行平衡，这可能涉及选择不同类型的启发式（如收敛导向启发式和多样性导向启发式）。

解集管理：与单目标优化不同，多目标优化需要维护一个解集而非单一解。MOHHs需要管理解集的更新、归档和修剪等操作。

性能评估：MOHHs需要使用多目标性能指标（如超体积、IGD等）来评估解集质量，并将这些指标作为反馈信号指导学习过程。

4.2 MOHHs的分类框架

根据综述文献的分析，MOHHs可以从多个维度进行分类。以下介绍主要的分类框架：

4.2.1 按启发式管理策略分类

算子变更型（Operator Changes）：这类MOHHs动态调整多目标进化算法中的遗传算子（交叉、变异等）。例如，根据当前搜索状态选择不同的交叉算子（SBX、DE交叉等）或变异算子（多项式变异、高斯变异等）。综述显示，这类方法在236篇文献中占比最高，反映了其在实际应用中的重要性。

切换策略型（Switching Strategies）：这类MOHHs在多个元启发式算法之间动态切换。例如，在搜索初期使用全局搜索能力强的算法，在后期切换到局部搜索能力强的算法。综述显示，这类方法占17.7%。

参数调优型（Parameter Tuning）：这类MOHHs自动调整算法参数，如种群大小、交叉概率、变异概率等。虽然这类方法占比相对较小（6.8%），但参数调优对算法性能有重要影响。

生成型超启发式（Generation Hyper-Heuristics）：这类MOHHs自动生成新的启发式规则或算法。综述显示，这类方法占8.0%，反映了生成型方法在MOHH领域的兴起。

遗传编程型超启发式（GP-Based Hyper-Heuristics）：这类MOHHs使用遗传编程技术进化启发式规则。综述显示，这类方法占24.5%，是MOHH研究的重要分支。

混合自适应型（Hybrid or Other Adaptive Methods）：这类MOHHs结合多种机制，如强化学习、模糊逻辑、代理模型等。综述显示，这类方法占40.6%，反映了MOHH研究的多样性和创新性。

4.2.2 按底层多目标算法分类

MOHHs可以基于不同的多目标优化算法构建。综述显示，NSGA-II及其变体是最常用的底层算法，占75.0%；其次是MOEA/D及其变体，占41.1%；SPEA-2占32.6%；NSGA-III占16.5%；基于指标的方法（如IBEA）占13.1%。

NSGA-II的主导地位反映了其在多目标优化领域的成熟性和可靠性。然而，随着多目标问题复杂度的增加，MOEA/D、NSGA-III等算法的使用比例也在上升，特别是在高维目标问题中。
37% 21% 16% 11% 8% 7% MOHHs底层多目标算法分布 NSGA-II及变体 MOEA/D及变体 SPEA-2 NSGA-III 基于指标方法其他方法

4.2.3 按学习机制分类

MOHHs的学习机制可以分为以下几类：

无学习机制：使用简单的选择规则，如轮盘赌、锦标赛等，不进行学习适应。

选择函数学习：使用选择函数综合考虑多种因素进行启发式选择。

强化学习：使用Q学习、深度Q网络等强化学习算法进行启发式选择决策。

多臂老虎机：将启发式选择建模为多臂老虎机问题，使用UCB、Thompson采样等算法求解。

模糊逻辑：使用模糊规则进行启发式选择决策。

代理模型：使用神经网络、高斯过程等代理模型预测启发式性能。

4.3 MOHHs的框架结构

一个典型的MOHH框架包含以下组件：

问题接口层：负责问题实例的输入、解的编码和解码、目标函数计算等。

底层启发式池：包含一组可用的底层启发式算法，如局部搜索算子、交叉算子、变异算子等。

多目标优化核心：实现多目标优化的核心功能，如非支配排序、拥挤度计算、环境选择等。

超启发式控制层：负责底层启发式的选择、生成或适应决策。

学习与适应模块：根据性能反馈更新决策策略。

解集管理模块：维护外部档案、进行解集修剪等。

性能评估模块：计算性能指标、监控搜索状态。
管理层
控制层
启发式层
核心层
问题层
反馈
问题实例
解编码/解码
目标函数计算
多目标优化核心
非支配排序
拥挤度计算
环境选择
底层启发式池
局部搜索算子
交叉算子
变异算子
超启发式控制器
启发式选择
学习与适应
解集管理
外部档案
解集修剪

4.4 典型MOHH算法分析

4.4.1 MOMBI-III：多标量化函数超启发式

MOMBI-III是一种基于多标量化函数的超启发式算法，由Hernández Gómez和Coello Coello提出。该算法的核心思想是动态组合多个标量化函数来改进收敛性和多样性。

MOMBI-III使用多个标量化函数（如切比雪夫、加权求和、增强切比雪夫等）来评估解的质量。在每一代，算法根据当前解集的分布情况，自适应地选择最合适的标量化函数。这种多标量化策略能够克服单一标量化函数的局限性，更好地处理不同形状的Pareto前沿。

MOMBI-III的优势包括：

能够处理凸和非凸Pareto前沿
自适应选择标量化函数，提高鲁棒性
在多目标测试问题上表现优异

4.4.2 基于强化学习的MOHH

强化学习在MOHH中的应用日益广泛。典型的框架包括：

状态定义：状态通常包括当前解集的统计特征（如收敛性指标、多样性指标）、搜索进度、历史性能等。

动作定义：动作对应于选择哪个底层启发式算法。

奖励定义：奖励通常基于解质量的改进，如超体积增量、IGD改进等。

策略学习：使用Q学习、深度Q网络等算法学习最优选择策略。

综述中提到的代表性工作包括使用深度Q网络进行启发式选择的MOHH框架，该框架在复杂调度问题上取得了优异性能。

4.4.3 基于遗传编程的MOHH

遗传编程在MOHH中的应用主要集中在启发式生成领域。典型的框架包括：

程序表示：将启发式规则表示为树形程序，内部节点为操作符（如算术运算、比较运算），叶节点为终端（如问题特征、常数）。

适应度评估：在训练问题集上执行生成的启发式，评估其性能。

进化操作：使用交叉、变异等遗传操作产生新的启发式程序。

选择策略：基于适应度选择优秀个体进入下一代。

综述显示，基于遗传编程的MOHH在调度、路由等问题上表现出色，能够自动发现有效的启发式规则。

表3：典型MOHH算法比较

算法名称	核心机制	底层算法	学习方法	应用领域
MOMBI-III	多标量化函数选择	MOEA框架	自适应规则	通用多目标优化
RL-MOHH	强化学习选择	NSGA-II	Q学习/DQN	调度、路由
GP-MOHH	遗传编程生成	进化算法	进化学习	调度规则生成
MAB-MOHH	多臂老虎机	多种MOEA	UCB/Thompson	跨域优化
Fuzzy-MOHH	模糊逻辑控制	多种MOEA	模糊推理	动态环境优化

5 解表示与进化算子

5.1 解表示方法分析

对综述研究中进化组件的分析提供了MOHH设计实践的全面视角。解表示、交叉、变异、选择机制和终止策略的总体分布总结如图13所示。这些研究展示了对传统进化算法（EA）构建模块的一致依赖，同时也突出了对自适应和领域特定增强的日益关注。

以下定量总结作为描述性分析呈现，以说明设计实践的一般趋势，而非检验统计假设。在解表示方面，向量是最常用的格式，出现在146项研究（61.8%）中。例如，[10]中的向量编码使得交叉和变异算子能够在经典基准测试套件中高效应用。基于序列的编码在79篇论文（33.5%）中被采用，特别是在路由和调度环境中，如[13]使用排列序列来表示配送计划。更复杂的结构，如通常与语法优化（GO）和遗传编程（GP）相关的树和图，在29项研究（12.2%）中被使用，包括[17]，该研究进化了平衡预测准确性和可解释性的符号决策树。向量和序列表示的主导地位反映了它们在不同领域的通用性和简单性，而结构化编码使用的增加突出了启发式生成框架中可解释模型构建的趋势。

5.2 种群大小策略

关于种群大小，164项研究（69.5%）使用固定大小的种群，最常见的是在100到300个个体的范围内，如[14]所示，其中稳定的种群大小保持了计算的可处理性。相比之下，52项研究（22.0%）采用了自适应或特定问题的规模调整策略。例如，[22]动态调整种群大小以响应来自环境的学习信号。另有20项研究（8.4%）没有明确报告这一方面，如[29]。

所有综述研究都指定了终止条件，绝大多数依赖于最大迭代次数或函数评估次数。在68项研究（28.8%）中，应用了额外的停止条件，包括停滞检测、解容差阈值或缺乏改进指标。例如，[33]使用改进阈值在进一步收益不太可能时提前停止搜索。这些收敛增强有助于管理计算工作量并支持更高的解质量，特别是在动态或资源受限的环境中。

5.3 初始化策略

初始化策略也表现出明显的偏好。随机或基于启发式的方法在199篇论文（84.3%）中被使用。例如，[89]结合了随机采样和启发式种子。专门的初始化，如斜坡半半法、基于聚类的种子或领域信息构造，出现在37项研究（15.6%）中，特别是在基于GP的框架中，如[17]，其中初始多样性对搜索轨迹至关重要。

5.4 交叉算子

交叉算子显示出相当大的多样性。值得注意的是，76篇论文（32.2%）报告完全省略了交叉，这一趋势在选择导向框架中尤为突出，如[11]，其中启发式选择取代了重组。在使用交叉的研究中，模拟二进制交叉（SBX）是最常采用的（42项研究，17.7%）。单点、两点和均匀交叉在39项研究（16.5%）中被报告，而基于顺序的算子如PMX和OX出现在26篇论文（11.0%）中，例如在[13]中以保持序列可行性。另有53项研究（22.4%）描述了针对特定编码定制的替代或混合方案。

5.5 变异算子

变异算子同样多样化。虽然56项研究（23.7%）没有应用变异，但多项式变异是其中最常见的（50篇论文，21.1%），如[15]。基于交换的变异在序列问题中频繁出现，出现在47项研究（19.9%）中，如[13]所示。位翻转变异在30项研究（12.7%）中被使用，另有53篇论文（22.4%）实现了非标准算子，如高斯、子树或特定问题的变体，例如在[17]中。

5.6 选择机制

选择机制以锦标赛选择为主导，在128项研究（54.2%）中应用，因其简单性和鲁棒性。轮盘赌选择出现在31篇论文（13.1%）中，而基于指标的策略如超体积和R2指标在16项研究（6.8%）中被使用。一个增长的细分市场，34项研究（14.4%），采用了基于学习或自适应的选择方法，包括强化学习、选择函数和多臂老虎机，如[22]。另有27项研究（11.4%）使用未指定或替代的选择机制，反映了这一设计组件的实验性。

5.7 设计实践总结

图13提供了这些元素的综合视觉总结。中心圆描绘初始化策略，显示了对随机或基于启发式种子的广泛依赖以及对专门初始化方法的选择性使用。第二环描绘解表示的分布，指示向量编码的主导地位以及基于树和基于序列结构的存在。第三环说明种群规模调整策略，突出了固定大小种群的普遍性以及自适应和未指定配置。第四和第五环显示交叉和变异算子的范围，突出了SBX、多项式变异和基于交换的算子的突出地位，以及在相当大一部分研究中频繁省略交叉或变异。第六环显示选择机制，锦标赛选择是最常采用的，辅以轮盘赌、基于指标和学习驱动的方法。最外环描绘终止条件，表明大多数研究主要依赖于最大迭代或评估限制，而相当一部分子集纳入了额外标准。总的来说，该图提供了普遍MOHH设计实践的 consolidated 快照，反映了对标准进化算子的依赖以及为提高复杂多目标优化环境中的可扩展性、响应性和性能而日益纳入的自适应和学习导向配置。

除了这些观察到的模式，许多研究仍然缺乏对关键配置元素如种群规模调整、终止策略和算子设置的详细报告。提高这些领域的透明度将增强可重复性并允许更严格的跨研究比较。未来的研究应该探索混合编码方法，结合基于向量模型的灵活性与符号或基于图结构的表达能力。此外，跨问题类别的进化算子的正式比较评估以及使用反馈驱动或元学习框架开发自动参数控制技术，对于推进鲁棒、可泛化的多目标超启发式的设计具有前景。

6 目标制定与量化

6.1 目标制定类型分布

所有综述研究根据其制定和量化多目标优化目标的方式进行分类，产生四个主要类别：后验法（a posteriori）、先验法（a priori）、交互法和其他混合或非传统策略。这些制定类型的分布总结在表5中。本节仅报告基于频率的模式，不试图解释或评估任何主要研究中提到的统计程序的结果。应当注意，研究不限于单一目标制定策略。许多MOHH同时采用多种方法（例如，后验优化结合先验偏好编码）。因此，表5中的类别是非互斥的，百分比总和可能超过100%。

6.2 后验法

后验法是最常见的方法，专注于生成一组多样化的Pareto最优解，而不在搜索过程中纳入用户偏好。例如，[17]演示了后验制定如何支持设计具有准确性和模型简单性权衡的分类器，而[155]使用它们在大数据环境中平衡精度和计算效率。这些方法允许决策者在优化过程后评估权衡并选择首选解，与超启发式的探索性质及其对黑箱问题领域的适用性很好地一致。

6.3 先验法

相比之下，先验法在搜索开始之前嵌入偏好，通常通过标量化、加权和或效用函数，引导算法朝向目标空间中的特定感兴趣区域。虽然总体上不太普遍，但先验策略在如[61]等研究中被应用，该研究利用自适应支配概念表达目标偏好，以及[43]，该研究使用预定义目标改进工程基准上的收敛。虽然在理论上高效，但这些方法在不同领域一致指定偏好方面面临实际挑战。

6.4 交互法

交互法在搜索过程中迭代地纳入决策者的反馈，在所有综述研究中明显缺失。这种缺失反映了在人机循环优化集成到超启发式框架中的一个重要研究空白，尽管它们具有自适应、用户引导搜索细化的潜力。

6.5 混合与非传统方法

此外，15项研究（6.3%）采用了混合或非传统目标制定。这些包括创造性策略，如基于数据包络分析（DEA）的评估、通过人工目标的多目标化以及自适应制定切换。例如，[128]将DEA与进化搜索结合以建模基于效率的目标，而[219]采用混合制定动态整合环境和运营标准。

6.6 定量分析

定量上，227项研究（96.2%）包括后验制定，而只有18项（7.6%）包括先验策略。交互方法的完全缺失以及混合或非传统方法的相对较小份额揭示了强烈的方法论偏见。描述性和基于频率的分析确认了后验方法的主导地位，强调了领域范围内对优化后决策灵活性的强烈偏好。

这种主导地位反映了后验策略在多目标超启发式背景下的核心吸引力：它们支持全面的Pareto前沿探索，对未知或演变的决策者偏好具有鲁棒性。这些属性在现实世界领域中特别有价值，在这些领域中，获取决策者偏好是困难或耗时的。此外，先验方法的有限采用可能受到在不同问题设置中指定可靠权重或效用函数的困难的影响。此外，交互方法的完全缺失表明（0.0%）在优化过程中集成动态用户反馈在很大程度上未被探索，可能是由于实施、评估或基准测试方面的挑战。

尽管如此，混合和创造性制定的存在虽然有限，但表明对更灵活和上下文感知的目标建模策略的新兴兴趣。这些包括将偏好集成与自适应控制结合的制定，或利用代理评估模型进行实时反馈的制定。

表5：目标制定类型分布

目标制定类型	数量	百分比
后验法	227	96.2%
先验法	18	7.6%
交互法	0	0.0%
混合/其他	15	6.3%

MOHH中的目标定义策略仍然偏向后验制定，反映了对灵活性和鲁棒性而非定向收敛的偏好。交互策略的近乎缺失和先验方法的有限使用代表了明显的研究空白和创新机会。未来的工作应该研究动态纳入用户偏好的方法（可能通过强化学习、元学习或人机循环框架），并探索可以根据问题特征或用户反馈在策略之间切换的自适应制定。这些努力不仅会多样化方法论方法，还会增强MOHH在实时和用户驱动决策环境中的适用性。

7 多样性维护机制

7.1 多样性维护策略分类

为了评估MOHH中如何保持多样性，对综述研究进行了分析并分类为六个不同的类别，基于报告的机制。这些方法的分布如图14所示。结果揭示了根植于进化算法的经典多样性维护策略的明显主导地位。共有162项研究（68.6%）依赖于标准机制，如精英保留、非支配排序、拥挤距离、交叉和变异。例如，[74]使用拥挤距离和精英非支配排序来保持Pareto前沿的分布，而[178]使用锦标赛选择结合以变异为中心的多样性压力来避免早熟收敛。

7.2 探索与开发平衡

较小的一部分研究，共32项（13.5%），明确专注于平衡探索和开发。这些机制通常通过随机或混合选择、随机交配策略或种群级搜索压力的变化来实现，以鼓励Pareto前沿的更广泛覆盖，同时保持收敛动力。例如，[103]纳入了自适应交叉率和随机种群调整以维持探索，[202]使用受控算子随机性来导航碎片化搜索空间。

7.3 自适应选择方法

自适应选择方法，出现在21项研究（8.9%）中，代表另一个新兴趋势。这些策略根据性能反馈动态调整算子或启发式选择，使用如基于奖励的学习、自适应追踪和选择函数等技术。[224]通过应用多臂老虎机学习来平衡算子选择概率来例证这种方法，而[243]将LinUCB上下文老虎机与动态选择结合以自适应地引导搜索。

7.4 混合方法

一些研究明确结合了多种多样性维护机制。共14篇论文（5.9%）实施了混合方法，在统一框架中整合了精英保留、自适应选择和探索平衡。[80]提供了一个很好的例子，因为它合并了超体积贡献、多样性估计器和基于学习的启发式排名，以在整个搜索过程中维持良好分布的解集。

7.5 创新机制

另有23项研究（9.7%）引入或利用了创新的、较不传统的多样性机制。这些包括s能量度量、调和距离、转移概率模型、动态拥挤以及局部化交配或替换方案。例如，[10]应用s能量指标来促进均匀解分散，而[33]纳入调和距离度量以防止目标空间中的聚类。这些研究展示了对信息论和领域特定方法的创造性实验，以改进分布、减少冗余并更好地处理复杂的多模态优化景观。

7.6 总结

只有3项研究（1.3%）未能报告任何明确的多样性维护机制，强调了对其在多目标搜索中重要性的近乎普遍认识。在整个语料库中，至少采用一种多样性策略的广泛采用反映了对维持解多样性对于有效探索Pareto前沿和避免次优收敛至关重要的理解。

虽然传统进化技术仍然占主导地位，但自适应、混合和探索性机制的日益存在标志着重要的方法论演进。反馈驱动选择和创新分布控制的整合反映了向更智能和上下文感知超启发式的更广泛趋势。如[23]和[100]等研究表明，混合设计可以在多目标或动态环境中实现更高的收敛质量和多样性。

随着领域的发展，对自适应和学习驱动多样性维护的进一步研究可能会在提高超启发式鲁棒性和可扩展性方面发挥核心作用。未来的工作还应专注于定义基准多样性度量、建立标准化测试环境，并进行正式比较分析，以评估各种策略在不同问题领域中的相对有效性。

8 超参数调优策略

8.1 调优策略分类

此处使用基于频率的分析来总结和比较综述研究中调优策略的普遍性，提供定量背景而不进行推断测试。对所有研究的分析揭示了多目标超启发式算法中超参数调优策略的多样化集合。这些策略根据其实施和自动化程度分类为六个不同的类别，如表6所总结，如图15所示。其中，动态适应机制是最普遍的，出现在139项研究（58.9%）中。

8.2 动态适应机制

这些方法包括自适应配置、强化学习、模糊控制系统、信用分配方案、α支配调整和基于成功的参数适应。例如，[22]使用强化学习自适应调整变异和交叉概率，而[33]依赖自适应α支配策略在搜索过程中微调选择压力和多样性维护。这些方法支持实时、上下文感知的参数控制，强化了超启发式设计中对自主性、可泛化性和减少人工干预的日益强调。

8.3 手动调优或固定参数

手动调优或基于文献的固定参数值仍然相对常见，在30篇论文（12.7%）中被引用。这一类别反映了对预定义设置的持续依赖，要么是为了简单，要么是由于计算成本等实际限制。例如，[34]采用固定的交叉和变异概率，基于已建立的NSGA-II设置，以简化实验配置。虽然这些策略可能简化实施，但它们通常与超启发式的核心目标不一致，即减少特定问题的定制和增强适应性。

8.4 网格搜索和贝叶斯优化

网格搜索和贝叶斯优化在23项研究（9.7%）中被使用，主要在算法开发的离线阶段或用于基准测试。[61]采用网格搜索来校准惩罚系数和种群大小，[224]将学习率的贝叶斯调优与在线老虎机学习结合。这些方法提供了探索参数空间的系统手段，可以作为固定配置和完全自适应系统之间的中间地带。然而，它们的使用仍然有限，可能是由于与评估大型超参数网格或概率模型相关的高计算需求。

8.5 元启发式调优

通过元启发式（如遗传算法或粒子群优化）进行调优在15项研究（6.3%）中被发现。这些方法在元级别应用优化算法来校准底层MOHH框架的参数。例如，[245]演示了基于GA的调优器如何发现差分进化交叉因子和变异缩放参数的有效设置，改进了默认配置的性能。虽然在理论上具有吸引力且能够揭示参数之间的复杂相互依赖关系，但这些方法仍然未被充分利用，可能是由于增加了实施复杂性和计算开销。

8.6 混合方法

混合或复合方法，整合离线和在线调优机制，在10项研究（4.2%）中被识别。例如，[124]提供了一个说明性例子：首先使用irace离线配置种群大小和算子概率，然后基于UCB的在线选择动态调整算子使用。虽然不广泛，但这些策略说明了融合系统初始校准和上下文响应优势的有前景方向。

8.7 未报告或不清楚

在19项研究（8.0%）中，超参数调优过程要么未报告、不清楚，要么标记为不适用。这种透明度的缺乏对可重复性构成挑战，并削弱了比较性能声明的可解释性。例如，[115]没有指定如何确定变异和交叉参数，限制了实验可重复性的清晰度。

表6：综述研究中报告的超参数调优策略

调优策略类别	描述	研究数量	百分比
动态适应	自适应配置、强化学习、模糊控制、信用分配以及其他基于反馈实时调整参数的机制	139	58.9%
手动或固定	手动设置或从相关研究继承的参数，没有系统调优	30	12.7%
网格/贝叶斯搜索	使用网格搜索或贝叶斯优化框架（如高斯过程）进行离线超参数优化	23	9.7%
元启发式调优	应用元启发式（如遗传算法、粒子群优化）在元级别调优参数	15	6.3%
混合方法	离线和在线调优的组合（如irace结合自适应追踪或强化学习）	10	4.2%
未报告/不清楚	没有明确描述参数调优策略或明确标记为不适用	19	8.0%
总计		236	100%

8.8 总结

发现指向对自适应调优机制的强烈偏好，反映了超启发式研究中向自动化和智能控制的更广泛运动。强化学习、基于信用的适应和模糊控制系统的广泛使用反映了从静态配置向能够动态适应变化问题景观和搜索条件的系统的日益转变。同时，手动调优的持续存在，以及基于元启发式或混合框架的有限采用，突出了进一步进步的机会。

9 探索-开发权衡控制机制

9.1 机制分类

对综述研究的分析识别了四种用于管理超启发式设计中探索-开发权衡的不同机制类别。这些类别及其频率总结在表7中。这些方法的详细信息如下：

自适应选择机制是最主导的，出现在211项研究（89.4%）中。这些方法根据实时反馈（如奖励信号、成功率、效用度量或启发式性能历史）动态调节启发式或算子的应用。例如，[224]将上置信界（UCB）与基于性能的信用分配结合，以持续调整启发式概率。同样，[22]使用强化学习来学习在不同问题条件下应用哪些底层启发式。其他值得注意的例子包括[47]中的自适应追踪和[63]中的选择函数方法。它们的广泛使用源于它们能够在不需要先验问题景观知识的情况下平衡搜索强度和覆盖范围，以及它们易于集成到许多超启发式框架中。

多样性促进策略在29项研究（12.3%）中被发现，通过保持种群异质性来补充自适应机制。这些策略在防止早熟收敛和在多模态或多目标优化问题中保持搜索鲁棒性方面特别有价值。例如，[23]维护精英档案并使用拥挤距离来鼓励Pareto前沿的分布。[33]采用调和距离度量在选择过程中保持多样性。在其他工作中，如[10]，拥挤距离和精英档案与自适应启发式选择结合，以同时保持多样性和收敛速度。

定制或混合机制在43项研究（18.2%）中被识别，展示了旨在根据特定问题特征定制探索-开发平衡的创新技术。例如，[60]将基于投票的代理协调与Thompson采样集成，以动态调整探索策略。[112]使用混合奖励方案，结合质量和多样性激励。其他研究，如[61]，利用响应目标空间中解分布的标量化函数调整。如[109]等基于岛屿的框架实施了局部化资源分配和部落保存，以在定期信息交换之前保持独立探索。这些定制设计的出现反映了对上下文敏感探索策略和混合学习-控制系统的日益关注。

少数研究，仅4项（1.7%），没有报告任何明确管理探索-开发权衡的机制，通常依赖静态或固定启发式序列。例如，[76]专注于生成启发式，但没有描述搜索过程中如何处理探索-开发平衡。这些工作代表了一个下降的少数，因为现代超启发式研究越来越强调动态适应和运行时控制。

表7：探索-开发控制机制类型

类别	数量	百分比
自适应选择机制	211	89.4%
多样性促进策略	29	12.3%
定制/混合机制	43	18.2%
无明确探索-开发控制	4	1.7%

9.2 总结

自适应选择机制的主导地位强调了它们作为超启发式架构基础元素的重要性。然而，多样性导向和问题感知策略的日益纳入指向了对如何在不同问题类型和优化设置中更有效管理探索-开发平衡的更成熟理解。随着问题景观变得更加复杂、动态和高维，混合和智能探索-开发管理策略的整合------结合自适应选择、多样性保持和领域特定反馈------可能会成为开发可扩展和可泛化优化系统的关键。

10 应用领域

10.1 应用领域分类

综述研究涵盖了广泛的应用领域，分类为六个总体类别：基准问题、制造与调度、软件工程与测试、智慧城市与物流、工程设计与能源系统，以及一系列专业或新兴领域。这些类别及其范围如图16所示。许多研究涉及多个领域，反映了MOHH的跨领域适应性。

基准问题代表最常用的领域，出现在124项研究（52.5%）中。这些包括已建立的测试套件，如ZDT、DTLZ、WFG、IMOP、MaF和CEC。例如，[10]系统地评估了ZDT、DTLZ和WFG函数的性能以基准测试多样性和收敛，而[48]在WFG和CEC问题上测试算法可扩展性。这种基准的广泛使用反映了领域的方法论严谨性和对可重复比较的持续强调。

制造与调度应用构成最大的现实世界类别，有78项研究（33.0%）。这些包括复杂的优化场景，如作业车间调度（JSS）、柔性和动态流水车间调度（FJSS、DFJSS）、排列流水车间调度（PFSP）和节能生产计划。例如，[223]解决了多目标JSS，而[61]在不确定性下优化路由调度。在模块化生产中，[50]演示了实时动态适应调度启发式的能力。

软件工程与测试，在40篇论文（16.95%）中涉及，包括集成测试顺序（ITO）优化、回归测试优先级排序和软件产品线（SPL）测试生成等任务。例如，[76]生成多目标进化算法以改进测试排序，而[176]专注于在不同测试场景中选择有效的优先级策略。

智慧城市、物流与路由占33项研究（13.9%）。这些工作将MOHH应用于车辆路由（VRP）、城市交通路由和云雾计算任务分配等问题。例如，[71]优化了考虑成本和排放的能源分配，而[22]解决了动态海洋环境中的任务规划。在物流中，[35]将路由和资源分配与自适应防御策略结合。

工程设计与能源系统，在25项研究（10.5%）中涵盖，包括结构和桁架优化、风电场布局设计和核燃料循环规划。例如，[43]演示了桁架设计中改进的权衡，[154]解决了关键能源系统配置。在可再生能源中，[168]应用超启发式选择策略改进风力涡轮机放置。

其他专业领域，在21项研究（8.9%）中特色，包括生物信息学、网络安全、灾害物流、无人机（UAV）协调和使用NMR的蛋白质结构分配。例如，[216]学习了协调无人机任务的自适应飞行行为，而[145]平衡了数据收集效率和覆盖风险。在生物信息学中，[55]优化了聚类准确性和可解释性。

10.2 总结

基准问题使用的主导地位反映了领域在严格测试和算法验证中的基础。然而，研究在现实世界领域中的显著存在标志着向实际部署的明确过渡。MOHH在处理领域特定约束、动态环境和高维目标空间方面表现出特别的优势，在跨问题类型应用时通常需要最少的重新配置。

这种跨应用泛化的能力，结合自适应和模块化架构，将MOHH定位为复杂、高风险优化任务的引人注目的解决方案。随着现实世界系统在复杂性和响应性要求方面的持续增长，超启发式作为通用、智能优化引擎的作用预计将相应扩展。

11 基准问题与数据集

11.1 数据集分类

综述研究采用了各种数据集和基准环境来评估MOHH方法的性能。这些评估资源及其分布如图17所示。它们根据其来源和在实验中的作用分为五个主要类别：公共基准数据集、现实世界问题实例、合成数据集、混合方法以及其他或未指定的数据源。许多研究使用多种数据集类型，反映了全面验证的趋势。研究通常同时使用多个基准套件；因此，报告的类别不是互斥的。

公共基准数据集是最常用的，出现在187项研究（79.2%）中。这些包括广泛采用的测试套件，如DTLZ、ZDT、WFG、UF、CEC、MaF、PSPLIB、DIMACS和SPLASH-2。它们的主导地位反映了领域对方法论一致性和可重复性的强烈强调。例如，[10]在ZDT和DTLZ系列上基准测试MOMBI-III，而[33]使用WFG和IMOP问题评估其性能以比较收敛和分布。

现实世界问题实例在97项研究（41.1%）中被使用，说明了对实际验证的实质性关注。应用包括作业车间调度、云计算任务分配、城市物流和软件工程。例如，[114]在现实制造数据集上验证调度规则，[62]在需要节能规划的工业生产场景上测试。

合成数据集，在53项研究（22.4%）中发现，用于模拟受控优化条件。例如，[60]生成合成高维景观以测试其自适应启发式选择机制，而[189]系统变化问题规模和目标间相关性以评估鲁棒性。

混合评估策略在33项研究（13.9%）中被识别。这些将基准数据集与现实世界场景结合，以平衡标准化与实际相关性。例如，[61]在合成UCARP图上评估性能，然后将进化策略应用于现实物流网络，而[46]使用CEC基准与企业软件项目的实际回归测试套件。

其他或未指定数据集，在19项研究（8.0%）中使用，包括领域特定或非标准数据源。例如，[42]采用历史电网配置和故障率的专有数据集，[233]利用具有机密能耗概况的合成调度数据，[191]使用未公开的军事启发模拟场景。

11.2 总结

标准化基准的广泛使用继续为MOHH研究提供坚实的方法论基础。然而，现实世界和混合数据集的上升存在反映了向应用导向测试和运营部署的明确转变。这一趋势指向领域日益成熟，研究者不仅寻求在理论上优化算法，还寻求在现实世界系统中证明其实际可行性。

扩展数据集的多样性，同时保持可重复性，仍然是一个关键挑战。开发专门为超启发式评估设计的统一、混合类型基准库可以大大支持这一努力。这些资源将使社区能够评估算法卓越性和部署准备度，推进不仅高性能而且应用弹性和领域适应的MOHH设计。

12 性能度量指标

12.1 性能度量分类

综述研究采用了各种性能度量指标来评估MOHH的有效性。这些度量指标被组织为七个主要类别：解质量、多目标质量指标、计算时间、收敛率、多样性、领域特定标准和统计验证方法。这些如表8所示。当前综述中的大多数研究同时报告多个性能度量；因此，表8中总结的类别不是互斥的。

解质量是最广泛报告的性能度量，在189项研究（80.1%）中被引用。这一类别包括目标值改进、接近Pareto前沿和整体支配特征等指标。其普遍性强调了评估MOHH生成解在优化冲突目标间权衡方面有效性的核心重要性。例如，[10]演示了相对于NSGA-II和MOEA/D的显著支配改进，而[114]基于完工时间和能耗改进量化解质量。

多目标质量指标在72项研究（30.5%）中被使用，包括广泛认可的度量，如超体积（HV）、反转生成距离（IGD）、IGD+、R2、生成距离（GD）和epsilon指标。这些度量提供收敛质量和解多样性的可量化评估，使跨算法和基准的有意义比较成为可能。超体积和IGD特别主导，通常作为比较实验中的主要指标。例如，[60]依赖HV和IGD评估多目标优化中的改进，而[33]测量R2和扩展以及HV以评估Pareto前沿覆盖。

计算时间在69项研究（29.2%）中被报告，反映了对运行时效率的日益强调，特别是在实时或资源受限应用中。收敛时间、每次迭代平均运行时间和总执行时间是常见记录的指标。这些度量对于评估MOHH在调度、云计算和物流等领域中的实际可部署性至关重要。例如，[62]和[61]包括执行时间比较以确保运营环境中的可行性。

收敛率，在60项研究（25.4%）中使用，专注于MOHH接近Pareto前沿的速度和稳定性。这通常通过达到支配所需的代数或评估次数、非支配解积累率或随时间的收敛轨迹来评估。快速收敛在动态或大规模问题实例中特别有价值。例如，[46]跟踪基准和软件测试数据集上的收敛速度。

多样性度量仅出现在7项研究（3.0%）中，测量解在Pareto前沿上的分布和均匀性。常见度量包括扩展、间距和熵，用于确保MOHH不产生聚类或狭窄聚焦的输出。保持多样性在多目标和多模态优化景观中特别关键。例如，[75]报告扩展和间距值以突出解多样性的改进。

领域特定和定制度量在6项研究（2.5%）中被发现。这些包括问题相关指标，如项目持续时间、服务质量（QoS）、成本效率、吞吐量或使用的资源数量（如板材、机器）。这些度量在制造、软件测试、网络设计和智能基础设施等应用领域中特别相关。例如，[42]评估电网中的可靠性指数和成本节约，而[191]测量调度遵守和资源利用。

统计测试仅在一项研究（0.4%）中应用，突出了验证性能声明的方法论严谨性方面的显著空白。当存在时，技术包括Wilcoxon符号秩检验、Friedman和Kruskal-Wallis检验、配对t检验、ANOVA以及如Cohen's d等效应量度量。正式假设检验的极其有限使用表明大多数比较依赖视觉或描述性分析而非统计基础的结论。值得注意的是，[33]使用Wilcoxon和Friedman检验报告统计显著性。

表8：综述研究中报告的性能度量

度量类别	描述	研究数量	百分比
解质量	一般优化性能（目标值、Pareto支配、接近最优解）	189	80.1%
多目标指标	标准多目标优化指标（HV、IGD、IGD+、R2、GD、ε），使研究间可重复和可比较	72	30.5%
计算时间	执行时间、每次迭代时间、收敛时间，在实时、大规模和嵌入式应用中至关重要	69	29.2%
收敛率	收敛速度/稳定性（如达到Pareto支配的迭代次数、收敛轨迹）	60	25.4%
多样性度量	测量解在Pareto前沿上的分布（扩展、间距、熵）；确保输出多样性并减少冗余	7	3.0%
领域特定度量	问题相关度量（如QoS、能源、延迟、吞吐量、成本、完成时间），常用于制造、软件和物流	6	2.5%
统计测试	正式验证方法（Wilcoxon、Friedman、ANOVA、效应量）以确认性能差异的显著性	1	0.4%

12.2 总结

解质量和多目标指标如HV和IGD的广泛使用反映了对标准化评估的承诺，支持跨研究比较和基准测试。然而，多样性度量、统计测试和领域特定性能标准的相对较低普遍性指向MOHH评估可以加强的领域。

随着超启发式越来越多地应用于现实世界、时间敏感的优化挑战，更广泛采用运行时分析、收敛分析、上下文性能度量和统计验证将至关重要。这样做将增强方法论鲁棒性，支持部署准备度，并确保性能增益可靠地跨问题实例和领域转化。

13 统计测试使用报告

13.1 统计测试使用分析

本节报告主要研究作为其评估协议的一部分提及统计测试的频率。对236项综述研究进行了评估，以评估其在评估MOHH性能中使用统计方法的情况。分析揭示了描述性报告和正式统计验证之间的显著不平衡（如图18所总结）。本节报告的分析旨在提供统计验证方法如何在综述文献中使用的概述。这些数字是描述性的，不旨在在本研究中测试新假设。没有执行、复制或解释任何统计测试，也没有评估任何假设、假设或测试结果。分析严格是描述性的，仅旨在表征综述多目标超启发式文献中的报告实践。下面提供的方法论描述反映统计测试如何在主要研究中报告，不暗示本综述中的方法论认可、评估或应用。

与性能度量不同，统计测试在此仅作为主要研究中的提及报告，不评估其解释或结果。因此，虽然统计测试很少作为明确度量报告，但它们在此更常用于确认观察到的性能差异的显著性。

13.2 未使用统计测试的研究

大多数研究（145项，或61.4%）没有报告使用任何统计分析，表明实证严谨性的持续空白。这些论文通常依赖视觉比较或基于均值的总结来证明性能声明，没有解决变异性或统计显著性。例如，[145]和[48]提出性能表而没有任何伴随的假设检验。

13.3 Wilcoxon符号秩检验

在报告使用统计工具的124项研究（38.6%）中，Wilcoxon符号秩检验是最常提及的，出现在46项研究（19.4%）中。这些引用表明综述文献中非参数测试的普遍性，但没有提供足够的细节来评估假设或结果。例如，[142]应用Wilcoxon检验验证相对于NSGA-II的改进，[22]使用它来演示跨基准套件的统计显著性。

13.4 ANOVA分析

ANOVA（方差分析）在18项研究（7.6%）中使用，通常伴随假设检查，如Levene方差齐性检验。当检测到显著性时，研究者经常应用事后程序如Tukey's HSD来识别特定的算法间差异。例如，[61]使用ANOVA与Tukey's HSD比较多种算法配置。

13.5 Kruskal-Wallis和Friedman检验

Kruskal-Wallis检验，作为ANOVA的非参数替代用于比较三组或更多组，在21篇论文（8.9%）中使用。同样，Friedman检验，专为重复测量或区组设计实验设计，在15项研究（6.3%）中使用，通常伴随事后排名程序如Nemenyi或Holm检验。例如，[80]依赖Kruskal-Wallis和Friedman检验验证超体积和IGD度量的改进，而[41]应用Friedman排名建立统计优势。

13.6 t检验和Mann-Whitney U检验

较少频繁地，t检验（8项研究，3.4%）和Mann-Whitney U检验（7项研究，2.9%）用于两样本比较。这些方法通常应用于涉及单一基线和提议方法的受控实验，尽管正态性和等方差的假设并不总是报告。例如，[10]使用t检验进行收敛比较，[21]报告Mann-Whitney U检验确认性能一致性。

13.7 高级统计技术

高级统计技术在9项研究（3.8%）中被识别，反映了对效应量、正态性测试和图形可解释性的更深入关注。例子包括用于分布分析的Shapiro-Wilk检验、用于效应量测量的Cohen's d和Vargha-Delaney A12，以及用于可视化支配景观的经验达成函数（EAF）。值得注意的是，[34]结合EAF与A12统计量说明成本和延迟的实际改进。

13.8 总结

虽然一部分研究展示了仔细的统计实践，但整体景观仍然不一致。非参数测试的利用不足以及效应量估计、事后比较和假设检查的稀疏应用限制了由随机方法和多样化问题背景驱动的领域中比较发现的鲁棒性和可重复性。

采用更一致的统计框架，特别是适合非正态、多目标设置的框架，将增强MOHH研究的实证有效性。更广泛使用Friedman排名、多指标分析和性能可视化技术将为声称的改进提供更强支持，并促进更可信赖的跨研究比较。图18仅总结报告实践，不反映本综述中统计测试的应用或解释。

14 计算复杂性讨论

14.1 复杂性报告现状

在综述研究中，计算复杂性的报告不一致且经常被忽视（如图19所总结）。每项研究根据其最高级别的复杂性报告被分配到单一类别。在总数中，161篇论文（68.2%）没有包括任何算法复杂性讨论，揭示了在计算效率的理论评估中缺乏正式复杂性分析的广泛现象。例如，[80]和[49]描述了性能改进而没有指定运行时成本或扩展行为。

另有46项研究（19.4%）仅定性解决复杂性，通常引用改进的运行时或减少的开销而没有正式量化。这些工作通常声称相对于基线算法的相对效率，但没有提供计算负担的精确估计。例如，[103]指出提议的方法"比NSGA-II更快"，但没有提供Big-O表达式或经验扩展曲线。

14.2 明确复杂性分析

只有29项研究（12.3%）提供明确的复杂性分析，通常使用Big-O表示法或等效表达式详细说明特定算法组件的成本。例如，[10]明确报告了适应度评估和档案维护的每代复杂性，而[41]详细说明了与进化和评估基于决策树的启发式相关的计算成本。在那些包括正式评估的研究中，分析通常局部化于特定算法组件而非端到端管道。

即使在这个子集中，细节水平和方法论严谨性也有相当大的变化。在[61]中，作者量化了选择和交叉操作的渐近成本，但没有考虑自适应学习开销。同样，[23]为并行子种群提供近似扩展估计，但省略了基于奖励的启发式选择的运行时影响。

14.3 复杂性分析缺失的影响

计算复杂性建模的整体缺失在几个关键方面限制了领域。首先，它通过使比较算法开销或预期跨问题实例的可扩展性变得困难，阻碍了可重复性和理论验证。其次，它对时间敏感、资源受限或嵌入式系统中的应用构成挑战，在这些系统中理解方法的计算概况对部署可行性至关重要。随着目标维度的增加或超启发式结构变得更加分层------通过自适应学习、混合架构或多种群协同进化------对透明复杂性评估的需求变得更加紧迫。

许多研究依赖定性声明，如将算法描述为"更可扩展"或"更高效"，而没有将这些断言建立在正式或经验分析中。例如，[33]报告收敛速度的改进，但没有包括不同种群大小和目标计数下的定量复杂性估计或运行时基准。

14.4 对基准测试的影响

忽视复杂性分析也限制了基准测试努力。没有估计和报告计算成本的共同框架，比较研究缺乏深度，无法提供解质量和计算负担之间权衡的见解。这个问题随着现实世界应用要求高性能和实时响应性而变得特别重要。对复杂性分析的更强强调将显著有益于MOHH研究社区。纳入正式评估------不仅是渐近边界，还有经验运行时扩展、内存使用和最坏情况行为------将改进方法论透明度和实际相关性。

15 自适应与自自适应机制

15.1 自适应机制概述

以下发现总结了与多目标超启发式（MOHH）中自适应和自自适应机制相关的报告收益和结果。在本节中，"自适应"和"自自适应"统称在执行期间修改行为的机制，除非另有说明。自适应和自自适应方法旨在根据搜索过程的反馈在执行期间动态调整搜索行为、启发式选择或控制参数，从而减少对手动配置的依赖并改进跨多样化问题设置的鲁棒性。这些机制通常通过在线学习、信用分配、强化学习或进化自适应策略实施，使MOHH能够以有原则和自动化的方式响应变化的搜索景观和性能信号。本综述中的许多研究同时报告多种收益；因此，报告的类别不是互斥的。报告的类别包括主要研究中被构建为收益的性能相关结果和方法论或设计特征。

15.2 性能改进

最频繁报告的结果是相对于现有方法的优越性能，在121项研究（51.3%）中指出。例如，[33]演示了相对于NSGA-II和MOEA/D在DTLZ和WFG基准上的一致优越表现。同样，[10]展示了相对于MOMBI-II和其他基于分解算法的超体积和收敛率改进。支持这一声明，97项研究（41.1%）明确报告了基于广泛接受的指标如超体积（HV）和反转生成距离（IGD）的改进指标值，通常在标准测试套件如ZDT、DTLZ和WFG上验证。例如，[103]提供了水网络设计问题中统计显著HV增益的证据，而[51]在云调度任务中实现了更高的IGD性能。

15.3 解多样性改进

另一个核心发现是解多样性的改进，在76篇论文（32.2%）中被引用。这些研究强调了MOHH通过动态算子选择、自适应策略或基于指标的反馈维持良好分布Pareto前沿的能力。例如，[23]报告了相对于基线元启发式的改进扩展和间距度量。与此互补，67项研究（28.4%）报告了更快的收敛和改进的搜索效率。例如，[49]在资源分配中减少了收敛时间，同时保持高质量权衡。

15.4 权衡管理

在49篇论文（20.7%）中，研究者强调了在冲突目标间更有效的权衡管理，演示了MOHH可以引导搜索过程朝向更好平衡的解。[41]展示了生产调度中完工时间和能源目标间改进的平衡。

15.5 计算复杂性和运行时改进

减少的计算复杂性或运行时是另一个在41项研究（17.4%）中报告的优势，通常通过并行架构、代理模型或自适应评估标准实现。例如，[61]强调了相对于传统进化基线的减少运行时开销。

15.6 泛化和适应性

进一步发现包括更好的泛化和适应性，在33项研究（14.0%）中提及，强调了MOHH在无需广泛参数调优的情况下跨多样化领域一致表现的能力。例如，[12]演示了跨多个基准和现实世界场景的鲁棒性能。共29篇论文（12.3%）报告了应用特定收益，其中MOHH成功部署在物流、调度、云计算和智能制造中。例如，[32]在动态流水车间环境中实现了吞吐量和完工时间的显著改进。

15.7 高级实现

更高级的实现，如强化学习、信用分配或迁移学习，在24项研究（10.1%）中是核心。例如，[50]纳入行动者-评论家框架以自适应学习启发式选择策略。

15.8 可解释性

此外，17项研究（7.2%）专注于改进生成启发式或策略的可解释性，特别是那些使用遗传编程的研究。如图20所总结，这些发现说明了文献中报告的改进和贡献的广泛谱系。

15.9 总结

综合来看，这些发现表明MOHH在收敛、多样性和计算效率方面经常优于传统方法，但也引入了更高程度的灵活性和领域独立性。选择超启发式在强调速度和效率的研究中特别突出，而生成超启发式更常与规则新颖性和可解释性相关联。整合超体积指标、深度强化学习或迁移学习的混合框架在基准环境和复杂现实世界应用中特别有效。综述确认MOHH为多目标优化问题提供了鲁棒和可扩展的解决方案。它们动态适应变化问题景观和平衡多个目标的能力将它们定位为固定策略算法的有力替代。随着领域成熟，未来研究应旨在扩展这些技术以处理多目标场景、增强决策规则的可解释性，并促进领域无关框架的开发。将超启发式与人机循环系统和LLM集成以进行智能决策支持呈现了在复杂、实时环境中部署这些方法的有前景方向。

16 局限性与挑战

16.1 挑战分类

对236项研究的系统分析揭示了与将超启发式应用于多目标优化问题相关的广泛局限性和未解决挑战。这些挑战按主题分类，突出了算法和方法论关注点。由于单一研究中经常报告多种局限性，本节总结的类别不是互斥的。

16.2 高计算成本

最频繁引用的问题，在160项研究（67.8%）中报告，是高计算成本。这些负担通常归因于计算密集型组件，如训练周期、评估例程、大规模模拟或基于规则的决策结构的进化。例如，[10]报告了由于重复标量化和适应度评估导致的延长运行时，而[41]指出进化符号规则需要大量计算资源。适应和控制成本，特别是与多目标制定结合时，仍然是实时或嵌入式应用的关键瓶颈。

16.3 可扩展性限制

可扩展性限制在79项研究（33.5%）中被识别，特别是在高维搜索空间、动态环境或工业规模数据集的背景下。例如，[50]承认随着目标数量和决策变量增加性能下降，[32]描述了为更大问题实例扩展强化学习策略的挑战。

16.4 参数调优复杂性

参数调优复杂性，在69篇论文（29.2%）中指出，成为另一个主要障碍。对超参数的敏感性，如种群大小、交叉或变异率、选择阈值和启发式权重，是一个反复出现的主题。例如，[43]报告PPO学习率和探索因子难以校准，而[47]依赖广泛的试错来有效配置控制参数。

16.5 泛化和外部效度问题

泛化和外部效度问题在62项研究（26.3%）中报告，其中在合成基准上表现良好的算法未能有效转化到新领域或未见实例。例如，[33]在DTLZ函数上实现了高质量解，但在复杂调度案例上展示了不太鲁棒的性能。与此复合的是现实世界测试和验证的相对有限使用，只有37项研究（15.7%）在运营或工业数据集上部署其方法。虽然相关，但泛化问题反映跨未见实例或领域的性能下降，而有限的现实世界测试特指使用运营数据集进行实证验证的缺失。例如，[49]强调了模拟性能和部署可行性之间的差距。

16.6 其他技术挑战

其他技术挑战包括早熟收敛和有限多样性，在44项研究（18.6%）中报告，特别是在多样性保持机制（如拥挤距离、档案管理）缺失或不足的情况下。[12]观察到当多样性没有明确管理时收敛到次优区域。这一问题在依赖狭窄或固定底层启发式池的方法中加剧。

此外，28篇论文（11.9%）标记了随机变异性，强调由于对随机种子的敏感性和报告中统计鲁棒性不足导致的结果不稳定性。例如，[30]指出独立运行间的显著性能波动。

另有21项研究（8.9%）缺乏理论依据，未能提供计算复杂性、收敛行为或性能保证的正式分析。例如，[13]尽管提议混合搜索机制，但没有提出复杂性分析，限制了关于可扩展性和运行时预期的清晰度。

16.7 领域特定限制

最后，86项研究（36.4%）报告了领域特定或问题特定限制，如应用于边缘计算、模块化生产或动态运输网络的约束。[42]强调其模型在应用于智能电网场景前需要适应，[51]指出在软件测试基准之外泛化其框架的约束。综合来看，这些挑战反映了MOHH研究的演进但碎片化性质。领域继续扩展到多样化应用领域，从物流和调度到云资源分配和生物信息学。然而，这种广度也暴露了泛化性和领域适应之间的未解决张力。没有更强的理论依据、自适应参数策略和跨域验证协议，多目标超启发式的更广泛采用------特别是在高风险或资源受限环境中------可能仍然有限（如图22所总结）。未来研究必须通过集成基于学习的控制机制、运行时和性能报告中的实证严谨性以及跨合成和现实世界问题设置的更系统基准测试来解决这些关键限制。弥合探索性算法设计和实际、可扩展部署之间的差距仍然是推进超启发式优化艺术状态的核心挑战之一。

17 未来研究方向

17.1 未来研究方向分类

在当前综述检查的研究中，识别了广泛的未来研究方向，可以归类为三个总体主题。最频繁提议的方向涉及自适应机制的开发，在165篇论文（69.9%）中突出。这些研究强调了能够根据问题背景和反馈自主选择和调整底层启发式的动态、基于学习策略的需求。例如，[50]建议进一步整合强化学习以在复杂生产环境中动态调整搜索策略。虽然密切相关，但自适应机制主要指在线控制和参数调整，而AI驱动的混合强调整合外部学习模型以增强决策策略。

17.2 探索新问题领域

第二个主要主题，在138项研究（58.5%）中发现，专注于探索新问题领域，反映了对将超启发式方法扩展到新兴或未充分探索应用领域的持续兴趣。例子包括向雾计算[49]、灾害物流[25]和复杂生物信息学应用[40]扩展的提议。除了这些主导主题，121篇论文（51.3%）提供了更有针对性的建议。这些进一步归类为五个关键子主题：与AI和机器学习技术的混合，如强化学习或遗传编程（34篇论文，如[51]）；向多目标优化问题（MaOPs）扩展（27篇论文，如[10]建议适应10+目标场景）；性能指标和训练策略的改进（21篇论文，如[32]建议定制收敛度量）；应用于现实世界数据集和运营场景（20篇论文，如[16]）；以及算法组件的细化，如档案管理、算子设计或转移机制（19篇论文，如[33]倡导更好的多样性保持技术）。

17.3 自适应机制设计的重要性

自适应机制设计的突出强调了集体认识到静态或手动配置系统的局限性。倡导自自适应方法的研究通常专注于鲁棒性、响应性和减少对参数调优依赖至关重要的动态环境。这些机制旨在通过实现对启发式选择或生成的实时调整来增强灵活性，改进跨变化问题景观的收敛和解质量。例如，[43]提议使用高级策略梯度方法动态平衡探索和开发。

17.4 扩展应用范围

扩展应用范围的努力同样广泛。研究者越来越多地提议将超启发式适应物流和供应链问题[30]、智能制造系统[47]、实时调度[41]以及雾/边缘计算环境[52]。这些领域通常涉及动态约束、高不确定性或严格性能要求，促使对可扩展和可泛化优化方法的需求。大量工作还强调了智能、数据驱动策略在推进超启发式中的作用。强化学习、迁移学习和代理建模被频繁引用为增强决策效率和实现更细致搜索控制的有前景工具。例如，[22]突出了基于深度学习的选择策略改进实时适应性的潜力。这些整合标志着领域中的多学科转变，将经典优化与现代AI结合以实现更高水平的自主性和上下文感知。

17.5 泛化性的重要性

泛化性成为另一个关键关注点。许多研究强调了超越标准测试套件和在具有领域特定约束的现实世界场景中验证算法的重要性。这通常与多目标优化的挑战相结合，其中随着目标数量增长，维持解多样性和计算可处理性变得越来越困难。[31]建议在工业数据集上基准测试以评估可扩展性和鲁棒性。最后，研究者指出需要进化性能指标和评估策略以更好地反映实际目标和以用户为中心的结果。在软件测试或物流等应用领域，标准指标可能不足以捕获解质量，促使设计更定制度量和自适应档案管理方案。例如，[20]建议开发领域特定评估标准以更好地评估现实世界影响。

17.6 总结

文献表明，多目标超启发式的未来进步将由三个相互关联的优先事项驱动：推进鲁棒自适应能力、扩展对复杂和数据丰富环境的适用性，以及嵌入智能学习组件以增强决策。这些目标共同反映了向更可扩展、自主和现实世界准备就绪的优化框架的持续演进，如图23所总结。综合来看，这些方向反映了从概念验证MOHH设计向鲁棒、可部署优化系统的转变，能够在不确定性、规模和现实世界约束下运行。

18 超启发式方法的潜在扩展

18.1 扩展方向分类

虽然第4.20节综合了综述研究明确提议的未来研究方向，但本节整合了从观察趋势、设计空白和文献中新兴实践推断的更广泛方法论扩展。对研究的系统审查揭示了提议的超启发式框架扩展的丰富集合，反映了领域向更自适应、可扩展和上下文感知优化策略的持续演进。这些提议的增强被组织为三个主要主题类别：与其他人工智能（AI）技术的整合、底层启发式（LLH）池的增强，以及其他旨在改进现实世界适用性的实际或方法论扩展------如图24所示。

18.2 与AI方法的整合

迄今为止最突出的方向，在185项研究（78.3%）中识别，是超启发式与AI方法的整合。这包括机器学习、强化学习、模糊逻辑、遗传编程、代理建模和集成学习的采用。例如，[43]提议将深度强化学习与偏好学习结合以增强自适应选择。同样，[44]演示了遗传编程如何与迁移学习整合以加速规则进化。这些整合主要由改进跨问题实例的决策精度、学习效率和适应性的愿望驱动。如深度Q网络和元学习等方法因其加速启发式选择和改进动态环境性能的潜力而被频繁引用。这种向混合智能的趋势表明了超越传统基于规则的超启发式向能够自组织和实时适应系统的明确运动。

18.3 底层启发式池的增强

底层启发式池的增强是另一个反复出现的主题，在78项研究（33.0%）中提议。这些增强涉及扩展可用启发式的多样性、细化选择标准或构建领域特定的混合启发式。例如，[27]引入了基于领域知识转移动态生成LLH的机制。在另一项研究中，[47]提议了问题定制LLH的新组合以改进探索和收敛。许多研究强调了LLH多样性在改进鲁棒性和泛化中的作用，特别是在跨多个问题领域操作时。一些工作还引入了自适应LLH过滤机制或启发式生成策略，旨在改进对问题特征或性能历史的响应性。

18.4 其他增强

第三组扩展，在69项研究（29.2%）中识别，专注于其他增强，包括实际部署改进和问题特定定制。这些涵盖了广泛范围的倡议，如将超启发式应用于新问题领域（如3D切割和装箱、动态物流或多代理调度）、自动化参数调优、纳入并行或分布式计算，以及为领域特定约束定制启发式行为。例如，[28]演示了将超启发式与自动规则搜索和领域特定评估函数结合的好处。同样，[42]突出了将专家推理纳入规则选择以改进工业环境中的可解释性和接受度。许多研究还提出了对更透明超启发式模型的需求，特别是在可解释性对用户信任和系统采用至关重要的现实世界应用中。

18.5 总结

这种提议扩展的分布指向了一个共同认识，即未来超启发式系统不仅必须高性能，还必须灵活、可解释并能够从经验中学习。虽然AI整合提供了朝向自动化和适应性的清晰路径，但对启发式池增强的持续强调突出了算法多样性在实现一致结果中的重要性。"其他"扩展的多样性表明了最近研究中的强烈实践导向，许多研究寻求弥合理论创新和现实世界部署之间的差距。

综合来看，这些趋势表明多目标超启发式的未来在于与智能学习系统的混合、动态和问题感知的启发式适应以及领域特定的可扩展性。随着优化问题在维度、复杂性和动态性方面的持续增长，超启发式框架必须相应演进。未来工作应专注于将可解释性纳入启发式生成（如[41]）、支持多目标优化（如[10]），并在医疗保健、能源系统和智能制造等应用领域严格验证新方法。建立测试可扩展性、可解释性和适应性的标准化平台对于加速MOHH研究从学术探索向实际影响的转变至关重要。

19 结论

19.1 主要研究发现

本综述对2005年至2025年间发表的236篇多目标超启发式算法文献进行了系统性分析，揭示了MOHH领域的发展现状和趋势。主要研究发现包括：

方法论演进：MOHH研究经历了从简单的启发式选择到复杂的启发式生成、从静态策略到动态适应、从单一机制到混合框架的演进过程。遗传编程、强化学习、多臂老虎机等技术的引入，显著提升了MOHH的智能化水平。

应用扩展：MOHH的应用领域从传统的调度和路由问题，扩展到云计算、软件工程、能源系统、智慧城市等新兴领域。应用场景的多样化反映了MOHH的通用性和适应性。

算法多样性：NSGA-II仍然是MOHH最常用的底层算法，但MOEA/D、NSGA-III等算法的使用比例在增加，特别是在高维目标问题中。算法选择的多样化反映了研究者对不同问题特征的重视。

学习机制发展：从简单的选择函数到复杂的深度强化学习，MOHH的学习机制日益智能化。学习能力的增强使MOHH能够更好地适应不同问题和环境。

评估实践改进：尽管统计验证和复杂性分析的报告仍然不足，但研究者对评估严谨性的重视在增加。超体积、IGD等综合指标的使用已成为标准实践。

19.2 理论贡献

本综述的理论贡献包括：

分类体系构建：建立了MOHH的多维度分类体系，包括启发式管理策略、底层算法、学习机制等维度，为领域研究提供了概念框架。

知识图谱绘制：通过系统分析，绘制了MOHH领域的知识图谱，揭示了研究主题、方法论和应用领域之间的关系。

研究空白识别：识别了MOHH研究的多个空白领域，包括理论基础、可解释性、人机协同等，为未来研究指明了方向。

方法论创新：采用的HITL-LLM方法论为大规模系统文献综述提供了新的范式，展示了人机协同在学术研究中的潜力。

19.3 实践启示

本综述对实践者的启示包括：

算法选择指导：综述提供了不同类型MOHH的特点和适用场景，帮助实践者选择合适的算法框架。

参数设置建议：总结了常用MOHH的参数设置实践，为实践者提供参考。

评估方法推荐：推荐了性能评估的最佳实践，包括指标选择、统计检验、基准测试等。

应用案例参考：提供了多个应用领域的案例研究，为实践者提供借鉴。

19.4 局限性说明

本综述存在以下局限性：

文献覆盖：仅检索了英文文献，可能遗漏了其他语言的重要研究。排除了灰色文献，可能遗漏了工业报告和学位论文中的有价值信息。

分类主观性：文献分类依赖于研究者的判断，尽管采用了双人验证，仍可能存在主观偏差。

时效性：领域发展迅速，综述发表时可能有新的重要研究出现。

定量分析限制：由于研究间的异质性，未能进行元分析等定量综合。

19.5 展望

展望未来，MOHH研究有望在以下方向取得突破：

智能化提升：大语言模型、元学习等技术的引入，将进一步提升MOHH的智能化水平，实现更自主的优化决策。

可解释性增强：可解释AI技术的发展，将使MOHH的决策过程更加透明，增强用户信任。

人机协同深化：人机协同优化框架的发展，将更好地结合人类专家的领域知识和算法的计算能力。

应用拓展：MOHH将在更多新兴领域得到应用，如自动驾驶、智能制造、医疗决策等。

理论完善：随着研究的深入，MOHH的理论基础将更加完善，为算法设计提供更坚实的指导。

MOHH作为一个充满活力的研究领域，正处于快速发展阶段。通过持续的方法论创新、严格的实证研究和深入的理论探索，MOHH有望成为解决复杂多目标优化问题的有力工具，为科学研究和工程实践做出更大贡献。

参考文献

266\] A. A. Juan, P. Keenan, R. Martí, S. McGarraghy, J. Panadero, P. Carroll, and D. Oliva, "A review of the role of heuristics in stochastic optimisation: From meta-heuristics to learnheuristics," Annals of Operations Research, vol. 320, no. 2, pp. 831--861, 2023. \[267\] P. Ryser-Welch and J. F. Miller, "A review of hyper-heuristic frameworks," in Proceedings of the Evo20 Workshop, AISB, vol. 2014, 2014. \[268\] V. R. de Carvalho, E. Özcan, and J. S. Sichman, "Comparative analysis of selection hyper-heuristics for real-world multi-objective optimization problems," Applied Sciences, vol. 11, no. 19, p. 9153, 2021. \[269\] Sharma, S., \& Kumar, V. (2022). A comprehensive review on multi-objective optimization techniques: Past, present and future. Archives of Computational Methods in Engineering, 29(7), 5605--5633. https://doi.org/10.1007/s11831-021-09654-9 \[270\] Jayarathna, C. P., Agdas, D., Dawes, L., \& Yigitcanlar, T. (2021). Multi-objective optimization for sustainable supply chain and logistics: A review. Sustainability, 13(24), 13617. https://doi.org/10.3390/su132413617 \[271\] Chen, Y., Chan, W. H., Su, E. L. M., \& Diao, Q. (2025). Multi-objective optimization for smart cities: a systematic review of algorithms, challenges, and future directions. PeerJ Computer Science, 11, e3042. https://doi.org/10.7717/peerj-cs.3042 \[272\] Cao, P., Zhang, Y., Zhou, K., \& Tang, J. (2023). A reinforcement learning hyper-heuristic in multi-objective optimization with application to structural damage identification. Structural and Multidisciplinary Optimization, 66(1), 16. https://doi.org/10.1007/s00158-022-03378-0 \[273\] Li, W., Özcan, E., Drake, J. H., \& Maashi, M. (2023). A generality analysis of multiobjective hyper-heuristics. Information Sciences, 627, 34--51. https://doi.org/10.1016/j.ins.2023.02.020 \[274\] Zhang, Q., and Li, H. (2007). MOEA/D: A multiobjective evolutionary algorithm based on decomposition. IEEE Transactions on Evolutionary Computation, 11(6), 712--731. \[275\] Das, I., and Dennis, J. E. (1998). Normal-boundary intersection: A new method for generating the Pareto surface in nonlinear multicriteria optimization problems. SIAM Journal on Optimization, 8(3), 631--657. \[276\] Kotthoff, L. (2014). Algorithm selection for combinatorial search problems: A survey. AI Magazine, 35(3), 48--60. \[277\] Burke, E. K., Hyde, M., Kendall, G., Ochoa, G., Özcan, E., and Qu, R. (2019). Hyper-heuristics: A survey of the state of the art. Journal of the Operational Research Society, 70(12), 1945--1969. \[278\] Veritas Health Innovation. Covidence systematic review software. Melbourne, Australia. Available at: https://www.covidence.org, accessed 2025.