GNRSR:一种融合广义非凸低秩近似与稀疏正则化的去噪方法

一、论文基本信息

  • 英文标题: Generalized Nonconvex Low-Rank Approximation and Sparse Regularizer for Hyperspectral Image Denoising
  • 中文标题: 面向高光谱图像去噪的广义非凸低秩近似与稀疏正则化
  • 作者: Yusen Tan、Dong Hu、Yao Fu、Chunming Yang、Zhi Wang
  • 发表期刊: IEEE Transactions on Geoscience and Remote Sensing(TGRS)
  • 年份: 2025
  • 核心方法: GNRSR(Generalized Nonconvex Low-Rank Approximation and Sparse Regularizer)
  • 开源代码:https://github.com/wangzhi-swu/GNRSR

这篇论文主要研究高光谱图像(Hyperspectral Image,HSI)的去噪问题。作者将广义非凸低秩近似与变换域稀疏正则化结合起来,提出了 GNRSR 模型,目标是在去除复杂噪声的同时,尽可能保留图像的纹理、边缘和光谱信息。

二、研究背景:为什么高光谱图像去噪并不简单?

2.1 什么是高光谱图像?

普通 RGB 图像通常包含红、绿、蓝三个颜色通道,而高光谱图像能够记录数十、数百甚至更多连续的光谱波段。

可以将高光谱图像理解为一个三维数据立方体:

类型 特点
普通 RGB 图像 三个颜色通道,主要用于表达可见光颜色和空间结构
高光谱图像 包含大量连续光谱波段,既有空间纹理,也有能够反映地物材料特征的光谱信息

例如,植被、水体、道路和建筑物在不同波段下可能具有不同的光谱响应。因此,高光谱图像广泛应用于遥感监测、地物分类和材料识别等任务。

但是,受传感器性能和复杂成像环境影响,采集到的高光谱图像往往会受到多种噪声的干扰。

2.2 高光谱图像面临哪些噪声?

论文重点考虑的噪声包括:

  • 高斯噪声: 通常表现为图像中随机分布的细小扰动。
  • 脉冲噪声: 部分像素出现明显异常值。
  • 条带噪声: 图像中出现横向或纵向的条纹。
  • 死线噪声: 某些探测器对应的像素行或列出现异常,形成明显的线状缺陷。

实际图像中,这些噪声可能同时出现。单独针对某一种噪声设计的算法,未必能够很好地处理复杂的混合噪声。

更重要的是,去噪并不等于让图像看起来更平滑。如果算法把噪声和真实纹理一起去掉,虽然图像变干净了,却可能损失边缘、细节和光谱特征。

这就引出了本文需要解决的核心问题:如何同时利用高光谱图像的低秩结构和稀疏特征,实现更准确的图像恢复?

三、核心基础:为什么低秩先验能够用于去噪?

理解 GNRSR 之前,需要先弄清楚两个概念:低秩先验和稀疏先验。

3.1 高光谱图像为什么具有低秩特性?

高光谱图像包含大量光谱波段,但不同波段之间并不是完全独立的。

例如,同一片植被在相邻波段中的空间结构通常具有一定相似性。虽然波段数量很多,但其中包含的有效信息可能具有较强的相关性,因此可以利用较少的独立成分描述主要结构。

这就是高光谱图像的低秩特性。

为了利用这一特性,可以将三维高光谱图像重塑为二维矩阵。假设原始数据为

其中 为空间尺寸, 为光谱波段数。

将每个波段展开成长度为的列向量,再把所有波段排列在一起,可以得到矩阵

.

这个矩阵称为 Casorati 矩阵。由于波段之间具有较强的相关性,它通常具有近似低秩结构(论文 Fig.1 给出了两个数据集的波段相关系数矩阵,Fig.2 展示了 Casorati 矩阵奇异值的快速衰减)。

那么,低秩先验如何帮助去噪?

可以将观测数据中的主要结构理解为信号,将偏离这些结构的部分理解为噪声。通过低秩近似,可以尽量保留数据中具有代表性的成分,抑制不符合整体结构的干扰。

不过,低秩并不意味着所有细节都可以被简单删除。过强的低秩约束可能导致图像过度平滑,使一些细小纹理和边缘信息丢失。

3.2 什么是稀疏先验?

稀疏性强调:一个数据在某种表示方式下,大部分系数接近零,只有少数系数具有较大数值。

例如,一幅图像经过离散余弦变换(DCT)后,重要结构的信息可能集中在少数系数中,而其他系数相对较小。

低秩先验与稀疏先验的区别

先验类型 关注点
低秩先验 关注矩阵中是否存在大量相关信息,以及能否用较少的独立成分表示主要结构
稀疏先验 关注变换后的系数分布,利用少量重要系数表达图像中的有效信息

二者关注的结构不同,因此可以在去噪过程中发挥互补作用。

论文进一步指出,低秩成分本身也可能具有稀疏表示特征。对于高光谱图像而言,这些稀疏信息中包含有助于恢复纹理和细节的成分。因此,如果模型只利用低秩先验,而没有充分考虑这些稀疏特征,就可能无法充分恢复图像的细节。

这正是 GNRSR 同时引入两种先验的出发点。

四、现有方法的问题:为什么还需要 GNRSR ?

论文指出,已有的低秩去噪方法虽然取得了不错的效果,但仍存在三个主要问题。

4.1 核范数可能过度惩罚较大的奇异值

在传统低秩近似中,常使用核范数(Nuclear Norm)代替秩函数。

对于矩阵 ,核范数可以写为

其中 表示矩阵的第个奇异值。

核范数能够将复杂的秩最小化问题转化为更容易处理的优化问题,但它会对所有奇异值施加线性惩罚。

问题在于,较大的奇异值往往承载着图像的主要结构信息。如果对它们施加过强的惩罚,就可能削弱重要结构,导致恢复结果产生偏差。

因此,作者希望寻找一种更加灵活的低秩近似方式。

4.2 不同噪声场景需要不同的正则化方式

高斯噪声、脉冲噪声和条带噪声的统计特性并不相同。

一种正则化方法可能在某种噪声条件下效果很好,却无法在其他条件下保持同样的性能。

如果每种场景都单独设计一套模型和求解算法,不仅增加研究成本,也不利于方法的统一与扩展。

因此,作者提出一个统一框架,希望能够根据具体任务灵活选择不同的非凸正则化函数。

4.3 只利用低秩信息可能损失图像细节

低秩约束有利于恢复整体结构,但图像中的细小纹理、边缘等信息不一定都能通过低秩先验得到充分表达。

如果忽略变换域中的稀疏性,模型可能在去除噪声的同时过度平滑图像。

综合来看,本文的思路不是简单地增加一个新的低秩惩罚项,而是希望同时解决两个问题:

  • 通过广义非凸函数,更灵活地刻画低秩结构。
  • 通过变换域稀疏正则化,更好地保留图像细节。

五、 GNRSR 的核心思想与数学模型

5.1 总体思路:把低秩恢复与稀疏表示结合起来

论文首先建立混合噪声观测模型:

其中:

  • :观测到的含噪图像;
  • :需要恢复的干净高光谱图像;
  • :稀疏噪声,例如脉冲噪声、部分条带或异常值;
  • :高斯噪声。

这里需要注意:论文在具体优化模型中,将高斯噪声的影响通过残差约束处理,而不是简单地把 当作一个独立变量进行优化。

作者最终提出的 GNRSR 模型为

这是理解整篇论文最重要的公式。

我们可以把它拆成三个部分:

第一部分:低秩结构约束

通过广义非凸函数惩罚奇异值,促使恢复结果具有低秩结构。

第二部分:稀疏噪声分离

利用 范数描述稀疏噪声,帮助分离异常干扰。

第三部分:变换域稀疏正则化

对恢复图像进行变换,并约束变换系数的稀疏性,以改善细节恢复。

数据一致性约束

限制恢复结果与观测数据之间的残差,使模型能够兼顾数据拟合与先验约束。

其中, 和 是控制不同正则化项权重的参数, 是残差约束的阈值。

5.2 创新点一:广义非凸低秩近似

GNRSR 的第一个关键设计,是使用广义非凸函数代替传统核范数。

其低秩正则项为

这里的是矩阵 的奇异值, 是用于惩罚奇异值的非凸函数。

与核范数相比,非凸惩罚函数能够更加灵活地调整对不同奇异值的惩罚程度,从而改善低秩结构的恢复效果。

论文在统一框架中讨论了多种非凸正则化形式,包括:

  • MCP(Minimax Concave Penalty);
  • ETP(Exponential-Type Penalty);
  • 范数相关的非凸惩罚;
  • NFF(Nonconvex Fraction Function)。

这几种函数可以看作不同的低秩近似工具。GNRSR 不要求始终使用某一个固定函数,而是允许根据具体的去噪任务选择合适的非凸惩罚。

这也是论文所强调的 plug-and-play 特性:在统一的模型与求解框架下,可以替换具体的非凸正则项,而不必从头设计一套完全不同的优化流程。

需要注意的是,非凸并不意味着一定能找到全局最优解。它的优势在于提供了更灵活的建模能力,但同时也增加了优化问题的求解难度。

5.3 创新点二:在变换域引入稀疏正则化

第二个关键设计是

其中 表示线性酉变换。论文实验中主要采用离散余弦变换(DCT)。

为什么要对变换后的图像施加约束?

直观地说,原始图像中的结构经过适当变换后,可以由一组变换系数表示。重要的图像信息可能集中在部分系数中,而大量其他系数较小。利用这种稀疏性,有助于区分主要结构和不重要的扰动。

作者的目标,是让模型在利用低秩先验恢复整体结构的同时,通过变换域稀疏约束进一步改善细节恢复。

不过,不能把这个正则项简单理解为"只保留纹理"。它约束的是变换域系数的稀疏性,最终对纹理、边缘和噪声的处理效果还取决于变换方式、参数设置及其他正则项的共同作用。

5.4 为什么选择 DCT?

论文比较了离散傅里叶变换(DFT)、Haar 变换(HT)和 DCT 三种变换方式。

实验结果表明,在所测试的 Pavia Center 数据集混合噪声场景中,采用 DCT 时取得了更好的去噪结果。

作者认为,DCT 具有较好的能量聚集能力,并能够实现较平滑的重建,同时避免边界伪影。因此,论文在后续实验中采用 DCT 作为主要变换算子。

这一点也说明,GNRSR 的效果并不只由低秩正则项决定,变换域的选择同样会影响最终结果。

六、 GNRSR 是如何求解的? ------ 基于 ALM 的优化算法

提出模型之后,还需要解决一个实际问题:如何计算出最优的恢复结果?

GNRSR 同时包含非凸低秩项、稀疏正则项和变换算子,直接求解比较困难。因此,作者采用非精确增广拉格朗日乘子法( Inexact Augmented Lagrange Multiplier , Inexact ALM **)**设计迭代算法。

6.1 为什么要引入辅助变量?

原始模型中存在变换项 。为了方便分别处理低秩约束和变换域稀疏约束,作者引入辅助变量:

模型可以改写为

引入 后,原本耦合在一起的变量可以通过分块迭代的方式分别更新。

这里的关键是:辅助变量并不是额外的图像内容,而是为了让优化问题更容易求解而引入的数学变量。

6.2 算法的主要步骤

输入含噪图像块

将高光谱图像划分为具有重叠区域的局部图像块。

↓

更新低秩变量

通过奇异值分解和广义奇异值阈值处理恢复主要结构。

↓

更新稀疏变量 和

通过软阈值算子处理稀疏噪声和变换域系数。

↓

更新乘子与惩罚参数

逐步减小约束残差,并检查迭代停止条件。

↓

输出恢复后的图像块

将各图像块还原到原始位置,对重叠区域取平均,得到最终去噪图像。

上述流程中有两个值得关注的操作。

第一,广义奇异值阈值处理。 在更新 时,算法需要对矩阵进行奇异值分解,并根据所选择的非凸惩罚函数调整奇异值。这一过程能够抑制不重要的成分,同时尽可能保留有用的结构信息。

第二,软阈值处理。 对于标准的 正则化子问题,算法使用软阈值算子:

当系数的绝对值较小时,它会被压缩为零;当系数较大时,其绝对值会减小一定幅度。

论文利用这一性质分别更新稀疏噪声变量 和变换域变量。

作者还对算法进行了理论分析,证明在相应假设下,迭代序列有界,且其任意聚点是 KKT 点。这为算法的收敛行为提供了理论保证,但并不等同于保证找到全局最优解。

七、实验结果: GNRSR 的实际表现如何?

为了验证方法的有效性,论文在模拟数据和真实高光谱数据上进行了实验,并与多种已有方法进行了比较。

7.1 实验数据集

|------|-------------------------|--------------------|
| 数据类型 | 数据集 | 主要用途 |
| 模拟数据 | Washington DC Mall(WDC) | 测试不同强度的高斯噪声和混合噪声 |
| 模拟数据 | Pavia Center | 比较不同噪声场景下的去噪能力 |
| 真实数据 | AVIRIS Indian Pines | 检验真实图像中的噪声抑制与细节恢复 |
| 真实数据 | HYDICE Urban | 检验条带、死线等复杂噪声下的恢复效果 |

模拟实验设置了六种噪声场景,从不同强度的高斯噪声,到高斯噪声与脉冲噪声、条带和死线混合的复杂场景。

对比方法包括 LRMR、NonLRMA、SMDS、RCILD、WNLRATV、NFF、FastHyMix、3DCTV 和 FallHyDe 等。

7.2 定量指标

论文使用四种常见指标评价去噪结果。

|-------|----------|------|
| 指标 | 含义 | 评价方向 |
| PSNR | 峰值信噪比 | 越高越好 |
| SSIM | 结构相似性 | 越高越好 |
| FSIM | 特征相似性 | 越高越好 |
| ERGAS | 全局相对综合误差 | 越低越好 |

这些指标从不同角度衡量恢复图像与参考图像之间的差异。不过,单个指标并不能完全反映去噪效果,尤其是光谱恢复和局部纹理保留情况,因此还需要结合可视化结果进行分析。

7.3 模拟实验结果

根据论文报告的实验结果,GNRSR 在 WDC 和 Pavia Center 的多种模拟噪声场景中取得了较好的整体性能。

其中,在混合噪声场景下,作者重点强调了以下优势:

  • 噪声抑制: 能够有效去除多种类型的混合噪声。
  • 纹理保留: 相较于部分存在过度平滑问题的方法,能够更好地保留局部细节。
  • 光谱恢复: 在部分复杂场景下,恢复后的光谱曲线更加接近参考光谱。

论文还比较了不同方法的视觉结果。例如,在 WDC 数据集的复杂混合噪声场景中,作者指出,部分方法仍有残留噪声、光谱失真或局部细节损失,而 GNRSR 的视觉恢复效果更好。

这里需要注意:论文报告的优势并不意味着 GNRSR 在每一个数据集、每一个噪声场景和每一个评价指标上都必然取得第一。

7.4 真实数据实验

在 AVIRIS Indian Pines 和 HYDICE Urban 数据集上,作者进一步测试了 GNRSR 在真实噪声条件下的表现:

在 Indian Pines 数据集上,实验涉及脉冲噪声、水汽和大气等因素造成的图像退化。论文指出,部分对比方法虽然能够抑制噪声,但可能出现边缘弱化、颜色失真或光谱信息受损等问题。

在 HYDICE Urban 数据集上,图像受到大气影响、脉冲噪声、死线和条带等干扰。作者重点分析了严重条带噪声下的恢复效果,并报告 GNRSR 在噪声去除、细节保留和光谱保持方面具有较好的综合表现。

需要说明的是,真实数据通常缺少完全无噪的参考图像,因此真实数据实验的视觉判断与模拟数据的定量指标并不完全相同。

八、消融实验:两个核心模块分别发挥什么作用?

消融实验是这篇论文比较值得关注的部分,因为它能够帮助我们判断模型设计是否真正有效。

作者构建了两个简化版本,并与完整 GNRSR 进行比较。

|----------|---------------|---------------------|
| 模型 | 保留的主要约束 | 用于验证的问题 |
| GNRSR-S | 广义非凸低秩项、稀疏噪声项 | 去掉变换域稀疏正则化后,效果如何变化? |
| GNRSR-G | 变换域稀疏项、稀疏噪声项 | 去掉广义非凸低秩项后,效果如何变化? |
| 完整 GNRSR | 同时使用两种核心先验 | 两种先验结合是否更有效? |

论文在 WDC 和 Pavia Center 的复杂混合噪声场景中进行了消融实验。

结果表明:

  1. 与 GNRSR-S 相比,完整 GNRSR 的表现更好,说明变换域稀疏正则化有助于改善图像细节的保留。
  2. 与 GNRSR-G 相比,完整 GNRSR 的去噪表现也更好,说明广义非凸低秩先验能够提供额外的结构恢复能力。

这说明两种先验具有互补作用:广义非凸低秩项侧重于更准确地刻画图像结构,变换域稀疏项则进一步利用稀疏信息改善细节恢复。

当然,这种作用分工是对实验结果的概括,并不意味着两个模块分别只影响某一种图像属性。

九、论文的主要创新点总结

结合模型设计和实验结果,可以将论文的贡献概括为以下三点。

创新点一:构建统一的广义非凸低秩框架

不局限于某一种非凸惩罚函数,而是通过统一的广义非凸结构支持多种低秩近似形式,提升模型在不同去噪场景下的灵活性。

创新点二:引入变换域稀疏正则化

在低秩先验之外,进一步利用高光谱图像的变换域稀疏性,减少过度平滑,改善纹理、边缘和光谱信息的恢复。

创新点三:设计统一的 ALM 求解框架

利用辅助变量、广义奇异值阈值处理和软阈值算子,将复杂模型拆解为一系列更容易处理的子问题,并提供相应的收敛理论分析。

从研究思路来看,这篇论文的核心并不是单纯提出一个全新的变换,而是通过统一非凸低秩建模、补充稀疏先验以及设计可求解的优化算法,构建一个相对完整的高光谱图像去噪框架。

十、总结

本文围绕高光谱图像在复杂成像环境下受到多种噪声干扰的问题,提出了 GNRSR 去噪模型。该方法将广义非凸低秩近似与变换域稀疏正则化结合起来,并通过非精确增广拉格朗日乘子法进行求解。

论文的主要贡献可以概括为:

  • 利用广义非凸函数灵活刻画低秩结构,改善奇异值恢复。
  • 引入变换域稀疏正则化,进一步利用图像中的稀疏信息。
  • 通过统一的优化框架处理模型中的不同变量,并进行收敛性分析。
  • 在两组模拟数据和两组真实数据上开展实验,验证模型对多种噪声的处理能力。

从整体上看,这篇论文展示了一条较为清晰的传统模型驱动研究路线:从数据的内在结构出发,提出合适的先验约束,再通过优化算法将其转化为可执行的恢复过程。

对于高光谱图像去噪研究而言,它不仅提供了一个具体的模型,也为后续思考低秩先验、稀疏先验与张量建模之间的关系提供了参考。

论文与代码资源

相关推荐
深念Y7 个月前
从张量到微分方程:AI计算架构的底层思考笔记
深度学习·架构·张量·npu·计算机架构·ai芯片·计算范式
jz_ddk8 个月前
[数学基础] 浅尝向量与张量
人工智能·机器学习·向量·张量
weisian1519 个月前
进阶篇-3-数学篇-2--从线性代数到AI:向量、矩阵、张量的底层逻辑
人工智能·线性代数·矩阵·向量·张量
Yongqiang Cheng9 个月前
Deep Learning with PyTorch: Tensors (张量)
pytorch·tensor·张量
熊猫钓鱼>_>1 年前
TensorFlow深度学习框架入门浅析
深度学习·神经网络·tensorflow·neo4j·张量·训练模型·评估模型
大千AI助手1 年前
HOSVD(高阶奇异值分解):高维数据的“解剖术”
人工智能·线性代数·矩阵·张量·svd·hosvd·高阶奇异值分解
伊织code1 年前
PyTorch API 7
pytorch·api·张量·稀疏
Ven%1 年前
矩阵阶数(线性代数) vs. 张量维度(深度学习):线性代数与深度学习的基石辨析,再也不会被矩阵阶数给混淆了
人工智能·pytorch·深度学习·线性代数·矩阵·tensor·张量
lishaoan771 年前
Tensorflow基础之矩阵计算回顾及Tensorflow基础计算一
矩阵·tensorflow·变量·tensor·张量·variables