12.自定义的多帧缓存架构

1.简介

  在数字图像处理中,经常需要用到的一个架构就是多帧缓存。视频流中需要用到多帧缓存来防止帧撕裂现象,图像处理中也需要帧差法来做移动目标检测。因此一个多帧缓存架构在图像系统的设计中是十分重要的。

2.多帧缓存

  在视频流中,通常不能保证数据的写入和读取是同样帧率的,写快读慢或者写慢读快都是常见现象。如果读写都在同一片内存地址中,那么将不能保证读出的一帧是完整的一帧图像,它很有可能是写入的图像中前多帧拼接而成的,这样就会造成帧撕裂的情况。

  假设写是读的三倍速度,且只缓存一帧图像,且读写同时开始操作同一片内存地址。来看看写三帧图像的同时读出的三帧分别发生了什么。

  (1)可以看出在写完第一帧的时候,读只读了写入第一帧的三分之一。

  (2)开始写第二帧的时候,读的还是第一帧的部分内容。

  (3)第二帧写到中途时,写追上读,第二帧写完后,读的第一帧中间有部分第二帧内容。

  (3)开始写第三帧内容时,由于写是读的三倍速度,此时当读一帧完成时,写第三帧也刚好完成。

  由图可以看出,当写时是读的三倍时,读出的像素不是一副完整的图像,而是有前两帧拼接而成的一副图像。当读写差异过大时,读出的一副图像可能由多幅写入的图像构成,这种现象被叫做帧撕裂。

2.1 乒乓操作

  为了避免帧撕裂,我们通常将读写的地址分开,来确保读出的是一幅完整的图像。最常见的就是乒乓操作。将读写分两片地址来进行。

  乒乓操作将读写分两块内存来进行操作,同一片地址读写交错进行。核心操作就是快等慢

  读写地址同时从图像缓存区一进行读写,快的操作第一个到达区域二,慢的操作还在区域一。当快的操作先写完操作完一帧图像后,查看慢操作是否在和自己操作同一帧,是的话跳转下一片区域,不是的话继续操作本内存区域,等待慢操作到来。而慢操作只需要按照顺序来操作内存区域即可,不需要查看快操作所操作的内存区域。这就是快等慢。

  假如快操作在操作自己的一片内存区域的时候慢操作到来了,因为快操作比慢操作快,所以也不用担心在一副图像中读出两帧图像。

  由乒乓操作延申出了三帧缓存,多帧缓存架构,多帧缓存的核心思想就是快操作会直接跳过慢操作所在的内存区域 。但是这样做有一个缺点,即事先需要知道读写操作的快慢来指导谁跳谁,来确定编程代码

  可不可以做到自适应呢?个人想法:读写操作刚开始时,谁先操作完一副图像,就可以在程序中标记谁是快操作,谁是慢操作,后续根据这个标记来指导读写的内存跳转,即可以做到自适应的多帧缓存结构。编程可能稍微复杂,但是节约内存空间。

2.2 自适应的多帧缓存架构

  另一种的通用自适应多帧缓存架构也是基于多帧缓存的思想提出的。核心操作就是读操作永远是写操作的上一片内存,而写操作就依次操作分配的内存区域 。总结就是多帧缓存+写比读低一帧缓存区。这种操作在读写速度一致和读快写慢的时候都可以有效保证帧的完整性,但是在写比读快很多的且读写缓存区域分配不足的时候依然有写追上读而造成帧撕裂的情况。因此需要根据读写速度来分别足够的内存区域来满足多缓存架构的需要。

3 多缓存架构的实现

  在数字图像处理中,视频流通常由SDRAM或者DDR3来进行缓存。SDRAM一般自己编写驱动,DDR3一般借由mig IP核驱动或者用ZYNQ的PS由AXI协议DMA访问。其中mig IP核可以选择AXI接口或者自己的接口。这里我们选择例化mig ip核并启用AXI接口。

  一个完整的视频流传输系统的上电顺序应该为:
系统上电 存储器初始化完成 视频输入系统初始化完成 视频输出系统初始化完成

  基于DDR3以及AXI协议多帧缓存架构的系统图如下:

  图中的红色区域是为了防止帧断流导致图像错位而无法恢复。每一帧开始时清空fifo和数据拼接区域,帧结束时复位DMA的地址部分,

相关推荐
天空属于哈夫克32 天前
企业微信二次开发:精准实现关键词自动回复
架构·企业微信
晨米酱2 天前
AGENTS.md:Agent 的上下文策略层
面试·架构·agent
这个DBA有点耶2 天前
MVCC深入:Read View、版本链与快照读——InnoDB并发控制的内核
数据库·mysql·架构
码流子2 天前
高速公路安全监测实践:碰撞监测预警+物联网底座,从感知到处置的闭环
大数据·人工智能·物联网·算法·架构
moMo2 天前
从固定流程到问题路由:让 LangGraph RAG 按需检索
架构
全栈弄潮儿²⁰²⁴2 天前
AI Agent 开发实战(30):限流、缓存与成本控制
人工智能·gpt·缓存·agent·限流·agi·成本控制
白远山2 天前
上海24小时自助健身房解决方案实战指南与经验分享
java·数据库·架构·需求分析
LorryJovens2 天前
【LAAP科研】双系统具身AGI范式研究——基于LAAP认知架构与Jev概率决策模型的系统性技术调研与范式验证
人工智能·gpt·安全·架构
JQweryuiop2 天前
中小型游戏陪练工作室数字化管理实践:基于七彩屋电竞护航小程序订单、履约与绩效系统的落地复盘
大数据·游戏·小程序·架构
LONGZETECH2 天前
一线职教实测:风光 580 汽车故障诊断仿真系统,破解实车实训四大核心痛点
人工智能·学习·安全·架构·汽车