目录
[1 边缘方向检测算法](#1 边缘方向检测算法)
[2 自适应插值](#2 自适应插值)
[3 方向优化后处理](#3 方向优化后处理)
本文提出的去马赛克算法直接由 CFA 马赛克图像计算水平、垂直方向上的通道绝对差值的绝对差(ADAID),以此判定插值方向。去马赛克图像高频区域产生的失真,其主要根源为红、蓝通道发生混叠;原因在于经过下采样后的红、蓝通道像素数量仅为绿色通道的一半。而彩色图像高频区域内,红、绿、蓝三色信号之间存在较强的通道间相关性。


1 边缘方向检测算法
图像的边缘与纹理区域,R、G、B 三通道高频分量幅值较大。本文作出假设:图像边缘所在位置在红、绿、蓝三个颜色通道中保持一致。算法直接基于 CFA 阵列计算通道绝对差值,利用该特征完成边缘方向检测并生成方向插值权重。 以图 1 (a) 中心行像素排布为例,该行像素颜色交替为绿色、红色;图 1 (b)、图 1 (c) 具有类似的像素交替规律。在每个像素位置,沿着水平、垂直方向,结合邻域像素值求解插值方向;再依据检测方向上邻域像素之间的空间相关性,计算出自适应方向权重。
图 2 为本文算法的整体框图。第一个处理模块计算用于边缘方向检测的水平 ADAID 与垂直 ADAID,计算过程需要用到左、右、上、下四个方向的通道绝对差
值。以图 1 (a)(中心像素为 R)为例,水平、垂直方向 ADAID 的定义分别如式 (4)、式 (5) 所示:

式中:分别代表 CFA 图像
坐标处红色通道与绿色通道的像素灰度值;
依次为左侧、右侧、上方、下方位置对应的通道绝对差值。
为提升边缘方向检测结果的可靠性,定义参数:

差值以及相对局部均值的灰度差参数
。本文选取固定阈值
用于平坦‑边缘区域划分,该阈值能够让算法对图像局部平均亮度变化具备良好鲁棒性。
本文所提边缘检测方法,将依据像素灰度关系选用两种一维滤波器(以水平方向为例):

其中为图 1 (a) 虚线方框内的像素;以上全部情况都可以采用水平方向一维滤波器实现。 当中心红色像素值与左右两侧绿色像素灰度差异很大时,式 (4) 等价于通道内部差值运算(情形 1、2);当中心像素灰度值介于另外两个不同颜色通道像素灰度之间,式 (4) 完成通道间差值运算(情形 3),此时一维滤波器作用近似于拉普拉斯算子。 也就是说,当中心像素灰度与两侧邻域像素灰度相近时,本文算法依靠周边邻域像素完成边缘方向检测。因此,对于包含细小结构、线状边缘、彩色边缘的局部区域,本文边缘方向检测算法具备更优效果。
图 3 为边缘方向检测结果图;黑色、白色、灰色像素分别代表垂直边缘、水平边缘、平坦区域。图像下方一行是上方原图的局部放大裁剪视图。图 3 (a) 为柯达 8 号测试原图,图像内包含大量建筑物,存在多处锐利的水平、垂直边缘。图 3 (b) 为文献 传统算法生成的边缘图(黑色‑垂直边缘,白色‑水平边缘,仅两个边缘类别);图 3 (c) 为本文算法生成的边缘图(黑色‑垂直边缘,白色‑水平边缘,灰色‑平坦区),提取出的边缘线条锐利,可以精准还原墙面与窗户的结构轮廓。 本文算法能够有效区分无主导边缘方向的平坦区域。由此本文去马赛克算法对于富含复杂结构的图像,尤其是窗框一类线状边缘区域重建效果优异。对于平坦区域,算法直接采用双线性插值,并且跳过 3.3 节所述的后处理优化步骤,以此降低整体运算耗时与内存开销。

图 1 (b) 与图 1 (a) 结构基本一致,仅红色分量替换为蓝色分量
。因此处理图 1 (b) 时,只需将式 (4)、(5) 中的
替换成
,就可以计算得到 ADAID 参数。 图 1 (c) 为窗口中心像素是绿色通道的拜耳阵列。计算该阵列下的
替换为
,即可求解 ADAID。
2 自适应插值
完成边缘方向检测后,求解自适应插值权重;结合方向插值权重与色差数值估算缺失像素灰度。本文自适应插值权重的定义方式与 Kimmel 算法 保持一致。Kimmel 算法依靠水平、垂直梯度幅值求解边缘自适应权重;该边缘自适应去马赛克算法和本文算法思路相近,插值重建图像较为平滑。

在图 1 (a) 中,当 5×5 拜耳 CFA 阵列窗口的中心像素为红色像素时,缺失的绿色通道像素值 通过插值求解。

式中,分别代表左、右、上、下四个方向的色差分量:

依次为左、右、上、下四个方向对应的插值权重:

上述插值权重用于图 2 自适应插值模块,计算缺失像素重建所需的各方向加权系数;本文算法利用式 (12)‑(15) 给出的方向权重完成绿色通道插值重建。
图 1 (b) 与图 1 (a) 处理逻辑相同,仅红色分量替换为蓝色分量。因此,当 5×5 拜耳窗口中心像素为蓝色时,缺失绿色通道像素可套用式 (6)‑(15) 求解,只需将公式内
替换成
。
绿色通道插值完成之后,再依次插值重建红、蓝通道分量。以图 1 (b)(中心为 B 像素)为例,缺失红色像素插值公式为:

分别为左下、右上、左上、右下四个对角线方向的色差分量:

依次为左下、右上、左上、右下对角线方向插值权重:

图 1 (b) 场景下,本文算法利用式 (21)‑(24) 的对角线方向权重完成红色通道插值重建。图 1 (a) 和图 1 (b) 仅红、蓝分量互换;当 5×5 拜耳窗口中心像素为红色时,缺失蓝色像素将式 (16)‑(24) 中的 R、B 分量互换后求解即可。
对于图 1 (c)(窗口中心为 G 像素),插值红、蓝分量时,方向权重由式 (12)‑(15) 计算;式 (12)(13) 中将
替换为
、
替换为
或者
式 (14)(15) 。缺失红色像素
结合式 (16)、色差分量、方向权重完成插值。其中色差分量定义:

缺失蓝色像素插值同样采用式 (16),只需要将红色色差
替换为蓝色色差
;式 (25)(26) 把
替换成
,式 (27)(28) 把
替换成
。
3 方向优化后处理
本文后处理优化方案基于 Menon 等人算法 16 改进实现;算法将图像划分为平坦区域与边缘区域(垂直边缘、水平边缘)。平坦区域不执行优化操作。 经过初次插值得到的图像,高频区域极易出现拉链效应、图像模糊、伪色等明显失真。因此需要依托 R/G/B 通道间相关性,提取高频分量完成图像优化。核心思路:将 CFA 图像中原采样位置已知的红(蓝)通道高频分量叠加到插值后的通道上,实现分量更新。
以图 1 (a)(窗口中心为 R 像素)为例,需要对绿色通道、蓝色通道进行优化。优化后绿色通道:

式中:代表自适应插值阶段得到的绿色通道初值;
为红色通道高频分量;
代表红色通道低频分量,沿着已经检测出的水平或垂直边缘方向,使用 3 抽头一维低通滤波器(1/3,\\ 1/3,\\ 1/3)滤波得到。 蓝色通道优化流程与绿色通道一致,套用式 (29)(30) 时,把
替换为
、
替换成
。
对于图 1 (b)、1 (c),窗口中心像素分别为 B、G 像素,按照完全相同的流程,依次完成 R‑G 通道、R‑B 通道分量优化。经过后处理模块之后,最终输出优化完成、重建得到的三通道图像,对应图 2 框图最后一级模块。 经过后处理优化,红、绿、蓝通道平均 PSNR 增益分别可达 1.69 dB、1.17 dB、1.89 dB。