2025年IEEE TETCI SCI2区,一种用于二次无约束二进制优化的协同神经动力学算法,深度解析+性能实测

目录


1.摘要

针对二次无约束二进制优化问题(QUBO),本文提出了一种协同神经动力学优化算法,该算法通过引入多个离散神经网络模型(Hopfield网络和玻尔兹曼机)进行并行分散搜索,同时结合粒子群算法(PSO)策略,对神经元状态进行反复重初始化,从而增强全局搜索能力,避免陷入局部最优。

2.问题建模

许多组合优化问题可以重构为 QUBO 形式,考虑如下带约束的二次二进制优化问题:
min ⁡   x T Q x + q T x \min\:x^TQx+q^Tx minxTQx+qTx

s . t . A x = b , C x ≤ d , x ∈ { 0 , 1 } n \mathrm{s.t.~}Ax=b,\quad Cx\leq d,\quad x\in\{0,1\}^n s.t. Ax=b,Cx≤d,x∈{0,1}n

其中 Q , q , A , b , C , d Q,q,A,b,C,d Q,q,A,b,C,d为给定参数。

通过引入惩罚函数将约束融入目标函数,其中等式约束对应:
p c ( x ) = 1 2 ∥ A x − b ∥ 2 p_c(x) = \frac{1}{2} \|Ax - b\|^2 pc(x)=21∥Ax−b∥2

不等式约束采用ReLU形式:
p b ( x ) = 1 2 ∑ l ( max ⁡ { 0 , ∑ i c l i x i − d l } ) 2 p_b(x) = \frac{1}{2} \sum_l \left( \max\{0, \sum_i c_{li} x_i - d_l\} \right)^2 pb(x)=21l∑(max{0,i∑clixi−dl})2

得到总惩罚函数与增广目标函数:
p ( x ) = p b ( x ) + p c ( x ) , f ρ ( x ) = f ( x ) + ρ p ( x ) p(x) = p_b(x) + p_c(x), \quad f_\rho(x) = f(x) + \rho p(x) p(x)=pb(x)+pc(x),fρ(x)=f(x)+ρp(x)

最终将原问题转化为无约束QUBO问题:
min ⁡ x f ρ ( x ) , x ∈ { 0 , 1 } n \min_x f_\rho(x), \quad x \in \{0, 1\}^n xminfρ(x),x∈{0,1}n

3.CNO-QUBO算法

算法描述

CNO-QUBO算法采用上下两层结构:下层由多个神经网络(如DHN、DHNm、BM、BMm)从不同初始状态出发进行并行搜索,获得局部最优解;上层在各网络收敛后,利用粒子群算法更新规则对状态进行重初始化,使搜索跳出局部最优并继续向更优区域推进。整体上通过神经网络的局部搜索与PSO的全局引导相结合实现优化过程,同时该框架可以替换不同神经网络形式,并可扩展到Ising模型。

内循环终止条件

在CNO-QUBO/DHN和CNO-QUBO/BM中,当相邻两次迭代的神经元状态不再变化( x ( t + 1 ) = x ( t ) x(t+1)=x(t) x(t+1)=x(t))时判定收敛。对于CNO-QUBO/DHNm和CNO-QUBO/BMm,则基于符号一致性判断收敛:若满足
s i g n ( u ( t ) ) = s i g n ( W x ( t ) − θ ) \mathrm{sign}(u(t)) = \mathrm{sign}(W x(t) - \theta) sign(u(t))=sign(Wx(t)−θ)

则有
σ ( u ( t ) ) = σ ( u ( t ) + W x ( t ) − θ ) \sigma(u(t)) = \sigma(u(t) + W x(t) - \theta) σ(u(t))=σ(u(t)+Wx(t)−θ)

从而在DHNm中得到
x ( t + 1 ) = σ ( u ( t ) + W x ( t ) − θ ) = x ( t ) x(t+1) = \sigma(u(t) + W x(t) - \theta) = x(t) x(t+1)=σ(u(t)+Wx(t)−θ)=x(t)

系统收敛。对于BMm,在概率满足
p ( x ( t + 1 ) = 1 ) < τ 或 p ( x ( t + 1 ) = 1 ) > 1 − τ p(x(t+1)=1) < \tau \text{ 或 } p(x(t+1)=1) > 1-\tau p(x(t+1)=1)<τ 或 p(x(t+1)=1)>1−τ

时,有
x ( t + 1 ) ≈ σ ( u ( t ) + W x ( t ) − θ ) x(t+1) \approx \sigma(u(t) + W x(t) - \theta) x(t+1)≈σ(u(t)+Wx(t)−θ)

3.结果展示

4.参考文献

1\] Li H, Wang J. A collaborative neurodynamic algorithm for quadratic unconstrained binary optimization\[J\]. IEEE Transactions on Emerging Topics in Computational Intelligence, 2024, 9(1): 228-239. ### 5.代码获取 xx ### 6.算法辅导·应用定制·读者交流 xx

相关推荐
大鹏说大话2 小时前
数据库查询优化全攻略:从索引设计到架构演进
算法
2301_818419012 小时前
C++中的协程编程
开发语言·c++·算法
add45a2 小时前
C++中的工厂方法模式
开发语言·c++·算法
無限進步D2 小时前
二分算法 cpp
算法
xushichao19892 小时前
C++中的工厂模式高级应用
开发语言·c++·算法
2501_924952692 小时前
C++模块化编程指南
开发语言·c++·算法
qzhqbb2 小时前
差分隐私与大模型+差分隐私在相关领域应用的论文总结
人工智能·算法
2401_831920742 小时前
基于C++的爬虫框架
开发语言·c++·算法
MSTcheng.2 小时前
【优选算法必修篇——位运算】『面试题 01.01. 判定字符是否唯一&面试题 17.19. 消失的两个数字』
java·算法·面试