去马赛克混叠现象分析

彩色图像的获取需要针对不同颜色通道配置对应的感光传感器。厂商为降低成本与硬件复杂度,会在原本为单色成像器件的图像传感器表面加装彩色滤光片阵列(CFA),以此采集真实场景的彩色信息。由于每个感光像素单元仅能采集一种颜色的光信号,缺失的色彩信息需要通过算法补全。彩色插值(也叫去马赛克) 算法通过计算缺失的色彩分量,重建传感器输出的全分辨率彩色图像。图像画质与去马赛克算法的特性密切相关。受混叠现象影响,图像会出现伪色、拉链效应等瑕疵,因此彩色插值算法必须实现高质量成像,规避各类伪影。本章梳理了去马赛克与抗混叠的主流实现方案。去马赛克算法大体可分为两大类:空间域算法频率域算法。现有去马赛克方案往往无法彻底消除伪色与拉链效应,所以图像信号链路通常会配套后处理模块,用于消除残留伪影,本文也会对部分后处理技术进行阐述。

1 引言

光谱选择滤光片最常用的排布方式为拜耳(Bayer)阵列。每个感光像素单元只能采集单一颜色的光信号,传感器输出原始灰度图像,再经过彩色插值处理,重建得到全分辨率彩色图像。去马赛克是整个图像处理链路中至关重要的环节。

双线性插值是最基础的去马赛克算法:根据像素在拜耳阵列中的位置,对周边像素做加权平均运算。对于某一像素,选取其 8 个相邻像素,通过邻域像素的色彩均值,计算该像素缺失的另外两个颜色分量。算法一共分为四类均值计算场景:红色像素、蓝色像素、红行上的绿色像素、蓝行上的绿色像素,四类场景的均值计算方式略有区别。
图 7.1 拜耳阵列示例

结合图 7.1 的像素标记规则,以像素为例,双线性插值计算过程如下:

  1. 红色像素插值,输出该点 RGB 三色值:

式7.1

  1. 蓝色像素插值

式7.2

  1. 蓝行上的绿色像素插值

式7.3

  1. 红行上的绿色像素插值

式7.4

双线性插值实现简单,但成像效果并不理想。和许多传统彩色插值算法一样,受彩色滤光片阵列非理想采样的影响,容易在图像色彩边缘产生伪影。混叠(Aliasing) 指连续信号的采样频率低于信号最高频率两倍时所产生的信号畸变。根据奈奎斯特‑香农采样定理:若采样速率大于2B(B为原始信号最高频率),采样后的模拟信号就可以由采样点完美重建。如果已知原始信号最高频率,该定理给出实现无失真重建所需的最低采样频率;反之,给定采样频率,该定理给出能够实现完美重建的信号最高频率上限,即奈奎斯特频率

但实际工程中很难完全满足上述理想条件,该定理要求原始信号为带限信号,信号能量不能超过某一确定带宽B。
图 7.2 带限信号示例

现实场景中,时间受限或者空间受限的信号不可能做到理想带限。因此数字信号处理系统输入端通常会配置抗混叠滤波器,对信号带宽做限制,近似满足采样定理。对于成像设备,光学低通滤波器在光学空间域对信号做平滑处理,将信号分辨率限制在低于数字传感器的解析上限;该解析上限与像素间距(相邻像素中心间距)直接相关。文献 2 指出,传感器采样频率为:

式7.5

想要复现某一空间频率,一个完整周期至少需要一对像素:一个像素响应信号的暗半周期,另一个像素响应亮半周期。也就是说单个像素仅能表征半个信号周期,因此阵列能够复现的最高频率为采样频率的一半,即奈奎斯特频率:

式7.6

对于横纵像素间距一致的二维像素阵列,X 轴、Y 轴方向的采样频率与奈奎斯特频率完全相同。当传感器表面覆盖拜耳彩色滤光阵列后,绿色通道与红、蓝通道的采样频率、奈奎斯特频率不再一致。红色通道与蓝色通道排布模式一致,二者奈奎斯特频率相同。

设单色传感器像素物理间距为p,由图 7.3 (a) 可见,红、蓝像素水平、垂直方向等效像素间距:

式7.7

红、蓝通道水平与垂直方向奈奎斯特频率:

式7.8
图 7.3 奈奎斯特频率下红色阵列线对

结合图 7.3 (b),可推导出相邻红 / 蓝像素的对角线方向间距:

式7.9

对角线方向红、蓝通道奈奎斯特频率:

式7.10

由此可见,对角线方向奈奎斯特频率比水平、垂直方向高出\(\sqrt{2}\)倍。

对于绿色通道,其水平、垂直方向像素间距等同于单色传感器原生像素间距(见图 7.4),因此绿色通道水平、垂直奈奎斯特频率和单色像素阵列一致:

式7.11

而绿色通道对角线方向奈奎斯特频率则和红、蓝通道一致,即公式 (7.10)。
图 7.4 奈奎斯特频率下绿色阵列线对

通过以上分析不难得出:相比绿色通道,红、蓝通道更容易出现混叠失真。即便系统搭载光学抗混叠滤波器,彩色插值的信号重建过程依然会引入混叠伪影。

彩色插值算法设计必须兼顾传感器带来的各类伪影,以及图像处理链路中其他模块之间的相互影响,文献 3 对此做了详尽分析。去马赛克算法需要输出高质量图像,避免产生各类典型伪影;这类伪影会被锐化模块进一步放大,造成图像画质严重劣化。与此同时,去马赛克算法还不能因为降噪模块残留噪声、绿色失衡效应,生成虚假边缘。绿色失衡出现在 GR、GB 像素位置,该现象主要由光电串扰引发 。

相关推荐
爱吃火鸡面呀3 小时前
OpenCV 人脸检测与识别实战:从静态图像到视频流
人工智能·opencv·计算机视觉
EDPJ3 小时前
(2026|IPI|我的论文投稿中,PSP 超轻量采样算法,轻量化架构探索/早融合+头压缩)LUMIN:面向工业异常检测的轻量级通用制造检测网络
算法·计算机视觉·架构·异常检测·采样算法
hhzz4 小时前
【OpenCV 入门到精通 02】环境安装与第一个程序:5 分钟跑通 Hello OpenCV
人工智能·opencv·yolo·计算机视觉·开源
明志数科4 小时前
机器人数据采集流程的工程实践:三条主流路线对比与选型分析
计算机视觉·自然语言处理·机器人
盼小辉丶4 小时前
PyTorch计算机视觉(9)——变分自编码器(VAE)详解与实现
人工智能·pytorch·深度学习·计算机视觉
matlab代码5 小时前
matlab车牌出入库识别系统停车场演示【源码61期】
人工智能·计算机视觉
向哆哆5 小时前
鸡行为目标检测数据集:3类别 | 目标检测
人工智能·目标检测·计算机视觉
格林威7 小时前
C# 图像异步落盘存储:基于Channel 配合 ArrayPool 实现异步落盘
开发语言·人工智能·数码相机·机器学习·计算机视觉·c#·视觉检测
wlkdb7 小时前
大模型/Agent 时代下的视觉算法
图像处理·算法·计算机视觉