2025年IEEE TETCI SCI2区,一种用于二次无约束二进制优化的协同神经动力学算法,深度解析+性能实测

目录


1.摘要

针对二次无约束二进制优化问题(QUBO),本文提出了一种协同神经动力学优化算法,该算法通过引入多个离散神经网络模型(Hopfield网络和玻尔兹曼机)进行并行分散搜索,同时结合粒子群算法(PSO)策略,对神经元状态进行反复重初始化,从而增强全局搜索能力,避免陷入局部最优。

2.问题建模

许多组合优化问题可以重构为 QUBO 形式,考虑如下带约束的二次二进制优化问题:
min ⁡   x T Q x + q T x \min\:x^TQx+q^Tx minxTQx+qTx

s . t . A x = b , C x ≤ d , x ∈ { 0 , 1 } n \mathrm{s.t.~}Ax=b,\quad Cx\leq d,\quad x\in\{0,1\}^n s.t. Ax=b,Cx≤d,x∈{0,1}n

其中 Q , q , A , b , C , d Q,q,A,b,C,d Q,q,A,b,C,d为给定参数。

通过引入惩罚函数将约束融入目标函数,其中等式约束对应:
p c ( x ) = 1 2 ∥ A x − b ∥ 2 p_c(x) = \frac{1}{2} \|Ax - b\|^2 pc(x)=21∥Ax−b∥2

不等式约束采用ReLU形式:
p b ( x ) = 1 2 ∑ l ( max ⁡ { 0 , ∑ i c l i x i − d l } ) 2 p_b(x) = \frac{1}{2} \sum_l \left( \max\{0, \sum_i c_{li} x_i - d_l\} \right)^2 pb(x)=21l∑(max{0,i∑clixi−dl})2

得到总惩罚函数与增广目标函数:
p ( x ) = p b ( x ) + p c ( x ) , f ρ ( x ) = f ( x ) + ρ p ( x ) p(x) = p_b(x) + p_c(x), \quad f_\rho(x) = f(x) + \rho p(x) p(x)=pb(x)+pc(x),fρ(x)=f(x)+ρp(x)

最终将原问题转化为无约束QUBO问题:
min ⁡ x f ρ ( x ) , x ∈ { 0 , 1 } n \min_x f_\rho(x), \quad x \in \{0, 1\}^n xminfρ(x),x∈{0,1}n

3.CNO-QUBO算法

算法描述

CNO-QUBO算法采用上下两层结构:下层由多个神经网络(如DHN、DHNm、BM、BMm)从不同初始状态出发进行并行搜索,获得局部最优解;上层在各网络收敛后,利用粒子群算法更新规则对状态进行重初始化,使搜索跳出局部最优并继续向更优区域推进。整体上通过神经网络的局部搜索与PSO的全局引导相结合实现优化过程,同时该框架可以替换不同神经网络形式,并可扩展到Ising模型。

内循环终止条件

在CNO-QUBO/DHN和CNO-QUBO/BM中,当相邻两次迭代的神经元状态不再变化( x ( t + 1 ) = x ( t ) x(t+1)=x(t) x(t+1)=x(t))时判定收敛。对于CNO-QUBO/DHNm和CNO-QUBO/BMm,则基于符号一致性判断收敛:若满足
s i g n ( u ( t ) ) = s i g n ( W x ( t ) − θ ) \mathrm{sign}(u(t)) = \mathrm{sign}(W x(t) - \theta) sign(u(t))=sign(Wx(t)−θ)

则有
σ ( u ( t ) ) = σ ( u ( t ) + W x ( t ) − θ ) \sigma(u(t)) = \sigma(u(t) + W x(t) - \theta) σ(u(t))=σ(u(t)+Wx(t)−θ)

从而在DHNm中得到
x ( t + 1 ) = σ ( u ( t ) + W x ( t ) − θ ) = x ( t ) x(t+1) = \sigma(u(t) + W x(t) - \theta) = x(t) x(t+1)=σ(u(t)+Wx(t)−θ)=x(t)

系统收敛。对于BMm,在概率满足
p ( x ( t + 1 ) = 1 ) < τ 或 p ( x ( t + 1 ) = 1 ) > 1 − τ p(x(t+1)=1) < \tau \text{ 或 } p(x(t+1)=1) > 1-\tau p(x(t+1)=1)<τ 或 p(x(t+1)=1)>1−τ

时,有
x ( t + 1 ) ≈ σ ( u ( t ) + W x ( t ) − θ ) x(t+1) \approx \sigma(u(t) + W x(t) - \theta) x(t+1)≈σ(u(t)+Wx(t)−θ)

3.结果展示

4.参考文献

1\] Li H, Wang J. A collaborative neurodynamic algorithm for quadratic unconstrained binary optimization\[J\]. IEEE Transactions on Emerging Topics in Computational Intelligence, 2024, 9(1): 228-239. ### 5.代码获取 xx ### 6.算法辅导·应用定制·读者交流 xx

相关推荐
Morwit23 分钟前
【力扣hot100】 1. 两数之和
数据结构·c++·算法·leetcode·职场和发展
无小道1 小时前
算法——暴力+优化
算法·优化·暴力
Free Tester1 小时前
如何判断 LeakCanary 报告的严重程度
java·jvm·算法
zyq99101_11 小时前
DFS算法实战:经典例题代码解析
python·算法·蓝桥杯·深度优先
智者知已应修善业2 小时前
【51单片机单按键切换广告屏】2023-5-17
c++·经验分享·笔记·算法·51单片机
广州灵眸科技有限公司2 小时前
为RK3588注入澎湃算力:RK1820 AI加速卡完整适配与评测指南
linux·网络·人工智能·物联网·算法
qinian_ztc2 小时前
frida 14.2.18 安装报错解决
算法·leetcode·职场和发展
AI应用实战 | RE2 小时前
012、检索器(Retrievers)核心:从向量库中智能查找信息
人工智能·算法·机器学习·langchain
凤年徐2 小时前
C++手撕红黑树:从0到200行,拿下STL map底层核心
c++·后端·算法
Thomas.Sir2 小时前
AI 医疗之罕见病/疑难病辅助诊断系统从算法到实现【表型驱动与知识图谱推理】
人工智能·算法·ai·知识图谱