12.自定义的多帧缓存架构

1.简介

  在数字图像处理中,经常需要用到的一个架构就是多帧缓存。视频流中需要用到多帧缓存来防止帧撕裂现象,图像处理中也需要帧差法来做移动目标检测。因此一个多帧缓存架构在图像系统的设计中是十分重要的。

2.多帧缓存

  在视频流中,通常不能保证数据的写入和读取是同样帧率的,写快读慢或者写慢读快都是常见现象。如果读写都在同一片内存地址中,那么将不能保证读出的一帧是完整的一帧图像,它很有可能是写入的图像中前多帧拼接而成的,这样就会造成帧撕裂的情况。

  假设写是读的三倍速度,且只缓存一帧图像,且读写同时开始操作同一片内存地址。来看看写三帧图像的同时读出的三帧分别发生了什么。

  (1)可以看出在写完第一帧的时候,读只读了写入第一帧的三分之一。

  (2)开始写第二帧的时候,读的还是第一帧的部分内容。

  (3)第二帧写到中途时,写追上读,第二帧写完后,读的第一帧中间有部分第二帧内容。

  (3)开始写第三帧内容时,由于写是读的三倍速度,此时当读一帧完成时,写第三帧也刚好完成。

  由图可以看出,当写时是读的三倍时,读出的像素不是一副完整的图像,而是有前两帧拼接而成的一副图像。当读写差异过大时,读出的一副图像可能由多幅写入的图像构成,这种现象被叫做帧撕裂。

2.1 乒乓操作

  为了避免帧撕裂,我们通常将读写的地址分开,来确保读出的是一幅完整的图像。最常见的就是乒乓操作。将读写分两片地址来进行。

  乒乓操作将读写分两块内存来进行操作,同一片地址读写交错进行。核心操作就是快等慢

  读写地址同时从图像缓存区一进行读写,快的操作第一个到达区域二,慢的操作还在区域一。当快的操作先写完操作完一帧图像后,查看慢操作是否在和自己操作同一帧,是的话跳转下一片区域,不是的话继续操作本内存区域,等待慢操作到来。而慢操作只需要按照顺序来操作内存区域即可,不需要查看快操作所操作的内存区域。这就是快等慢。

  假如快操作在操作自己的一片内存区域的时候慢操作到来了,因为快操作比慢操作快,所以也不用担心在一副图像中读出两帧图像。

  由乒乓操作延申出了三帧缓存,多帧缓存架构,多帧缓存的核心思想就是快操作会直接跳过慢操作所在的内存区域 。但是这样做有一个缺点,即事先需要知道读写操作的快慢来指导谁跳谁,来确定编程代码

  可不可以做到自适应呢?个人想法:读写操作刚开始时,谁先操作完一副图像,就可以在程序中标记谁是快操作,谁是慢操作,后续根据这个标记来指导读写的内存跳转,即可以做到自适应的多帧缓存结构。编程可能稍微复杂,但是节约内存空间。

2.2 自适应的多帧缓存架构

  另一种的通用自适应多帧缓存架构也是基于多帧缓存的思想提出的。核心操作就是读操作永远是写操作的上一片内存,而写操作就依次操作分配的内存区域 。总结就是多帧缓存+写比读低一帧缓存区。这种操作在读写速度一致和读快写慢的时候都可以有效保证帧的完整性,但是在写比读快很多的且读写缓存区域分配不足的时候依然有写追上读而造成帧撕裂的情况。因此需要根据读写速度来分别足够的内存区域来满足多缓存架构的需要。

3 多缓存架构的实现

  在数字图像处理中,视频流通常由SDRAM或者DDR3来进行缓存。SDRAM一般自己编写驱动,DDR3一般借由mig IP核驱动或者用ZYNQ的PS由AXI协议DMA访问。其中mig IP核可以选择AXI接口或者自己的接口。这里我们选择例化mig ip核并启用AXI接口。

  一个完整的视频流传输系统的上电顺序应该为:
系统上电 存储器初始化完成 视频输入系统初始化完成 视频输出系统初始化完成

  基于DDR3以及AXI协议多帧缓存架构的系统图如下:

  图中的红色区域是为了防止帧断流导致图像错位而无法恢复。每一帧开始时清空fifo和数据拼接区域,帧结束时复位DMA的地址部分,

相关推荐
国科安芯1 分钟前
卫星电推进系统阀门驱动控制中的宽温域高可靠MCU应用研究——基于AS32S601电气特性与辐照试验数据的工程分析
单片机·嵌入式硬件·fpga开发·云计算·信息与通信·卫星·抗辐射芯片
得物技术1 小时前
实战从零开始构建一个Coding Agent:Violin |得物技术
javascript·架构·llm
数智化管理手记1 小时前
本地云数据存储算力总是不够用?云计算如何协助架构升级?
架构·云计算·github
TunerT_TQ2 小时前
Valhalla 静态工程审阅 #002|字节 LatentSync 源码证据驱动评测【大厂开源基础设施特辑】
架构·github
磐链科技2 小时前
智能合约与DApp开发的核心架构,本质上是在构建一套去中心化的前后端系统
架构·去中心化·智能合约
mqiqe2 小时前
构建企业级 AI 原生架构:LLM Gateway、RAG、Agent 与 MCP 的协同关系解析
人工智能·架构·gateway
小僧景贤3 小时前
嵌入式OTA升级 第一篇 OTA核心原理与Flash分区架构
架构·嵌入式ota·stm32升级
2603_954708313 小时前
微能网协调控制箱的核心价值:让多种能源“协同作战”
大数据·运维·网络·人工智能·架构·能源
小园子的小菜4 小时前
Redis 核心原理深度解析:从数据结构、IO 模型到持久化机制
数据库·redis·缓存
有梦不弃12 小时前
模块化单体架构设计方案:DDD + 六边形架构落地实践
后端·架构