RK3568/RV1126/RV1109/RV1106 ISP调试方案

最近一直在做瑞芯微rv1126的开发,由于项目性质,与camera打的交道比较多,包括图像的采集,ISP处理,图像处理,H.264/H.265编解码等各个方面吧。学到了不少,在学习的过程中,也得到了不少帮助,很感激,所以将这一部分整理了一下,希望能对大家有所帮助。如有错漏,也希望批评指出,一起探讨。

1 摄像头类型

1.1 接口介绍

RV1126支持的摄像头接口主要包括MIPI、LVDS、DVP等三种。

MIPI:串行接口,当前主要摄像头接口,速度最快,抗干扰强。

LVDS:串行接口。

DVP:一种并行接口,即Digital Video Port,相对于MIPI接口,传输速率有限,一般为5M或以下摄像头。

DVP可与MIPI或LVDS接口可以同时工作,但MIPI和LVDS不能同时作。DVP接口对应一个rkcif_dvp节点,MIPI/LVDS接口对应一个rkcif_mipi_lvds节点,各节点可独立采集。为了将VICAP采集的数据信息同步给isp驱动,需要将VICAP驱动生成的逻辑sditf节点链接到isp所生成的虚拟节点,DVP接口对应rkcif_dvp_sditf节点,MIPI/LVDS接口对应rkcif_mipi_lvds_sditf节点。

1.2 数据类型

**Raw:**RAW图像就是CMOS或者CCD图像感应器将捕捉到的光源信号转化为数字信号的原始数据,是camera sensor直接输出的格式。红外相机的sensor和彩色相机的sensor有些不同,有的红外相机的sensor输出的raw data就是亮度值,即灰度值,输出来就是只有Y信息的,一个像素点通常由Y10/Y16等字节来表示。彩色相机RGB格式,每个像素点表示一个颜色分量B、G或R。

RAW文件是一种记录了数码相机传感器的原始信息,同时记录了由相机拍摄所产生的一些元数据(Metadata,如ISO的设置、快门速度、光圈值、白平衡等)的文件。RAW是未经处理、也未经压缩的格式,可以把RAW概念化为"原始图像编码数据"或更形象的称为"数字底片"。sensor的每一像素对应一个彩色滤光片,滤光片按Bayer pattern分布。将每一个像素的数据直接输出,即RAW RGB dataRaw data(Raw RGB)经过彩色插值就变成RGB.

raw格式是无法直接用于图像处理的,因为每个像素点颜色信息都不全,需要经过ISP处理,把raw转成yuv/rgb之类的图像(不只是格式转换,还要做白平衡调整之类的图像处理工作,调整好图像效果),才可以输入到图像处理算法中。

raw数据一般是经过tuning来还原数据,效果与摄像头镜头以及tuning参数有关。详细tuning方法见4.2节。

相关推荐
沪漂阿龙18 小时前
OpenAI Agents SDK 深度解析(三):执行层——Agent 的“幕后指挥部”
人工智能·深度学习
还是奇怪18 小时前
AI 提示词工程入门:用好的语言与模型高效对话
大数据·人工智能·语言模型·自然语言处理·transformer
健忘的萝卜19 小时前
Clawdbot 爆红硅谷,也把 AI Agent 和 Mac mini 推上风口
人工智能·macos·agent·数字员工·clawbot
迁旭19 小时前
claude code 提示词
人工智能·语言模型·gpt-3·知识图谱
不知名的老吴19 小时前
深度探索:直接预测多个token可行吗?
人工智能·回归
数智工坊19 小时前
【SAM-DETR论文阅读】:基于语义对齐匹配的DETR极速收敛检测框架
网络·论文阅读·人工智能·深度学习·transformer
风落无尘19 小时前
LangChain 完全入门指南:从基础到实战(附面试题)
人工智能·langchain
IT_陈寒19 小时前
Vue的这个响应式陷阱,我debug了一整天才爬出来
前端·人工智能·后端
zz_lzh19 小时前
arm版AI牛马:armbian(rk3588)设备部署openclaw
arm开发·人工智能·arm
AI医影跨模态组学19 小时前
如何通过影像组学模型无创预测三阴性乳腺癌中的三级淋巴结构(TLSs),并借助病理组学揭示其与治疗响应、预后及细胞侵袭性表型的机制联系
人工智能·论文·医学·医学影像·影像组学·医学科研