目标进了这个区域多久?我用 YOLO + ByteTrack 做了 ROI 占用与停留分析

项目地址:

yolo-object-detection-lab:基于 FastAPI 与 Ultralytics YOLO 的图像目标检测实验项目 - AtomGit

前面几篇里,这个项目已经从单张图片检测,一路做到了视频检测、ByteTrack 多目标跟踪和 Line Crossing 过线计数。

上一版 Line Crossing 可以回答:

某个目标有没有真正经过我指定的一条线?

但实际的视频分析里,还有另一类很常见的问题:

哪些目标进入过指定区域?

区域里同时最多有多少目标?

一个目标在区域里停留了多久?

所以这一次,我继续使用码道 Agent,在现有 YOLO + ByteTrack 项目上加入了第六种模式:

复制代码
ROI Analysis

最终实现:

复制代码
Polygon ROI
+
Entry / Exit
+
Occupancy
+
Dwell Time

也就是基于任意多边形区域的占用与停留分析。


一、现在项目已经有 6 种模式

目前项目顶部已经扩展为:

复制代码
Single Image
Batch Images
Video
Tracking
Line Crossing
ROI Analysis

整个项目的发展路线也越来越完整:

复制代码
图片目标检测
↓
批量图片检测
↓
视频检测
↓
ByteTrack 多目标跟踪
↓
虚拟线过线计数
↓
ROI 区域占用与停留分析

这次 ROI Analysis 没有重新写一套检测和跟踪系统,而是继续复用之前已经验证过的:

复制代码
YOLO
+
ByteTrack

在 Track ID 基础上继续做区域状态分析。


二、直接在视频首帧上画多边形 ROI

Line Crossing 只需要两个点:

复制代码
A → B

但是 ROI 显然不能只用一条线。

所以这一次前端增加了 Polygon Canvas,可以直接在视频第一帧上点击多个点。

我这次真实测试时画了一个 5 点多边形区域,大致覆盖道路中央和右侧车辆经过的位置。

页面支持:

复制代码
Finish ROI
Undo Point
Reset ROI
Use Default ROI

至少需要 3 个点才能形成有效区域。

为了避免浏览器缩放、Canvas 尺寸和原始视频分辨率不一致的问题,前端保存的也不是绝对像素,而是:

复制代码
Normalized Coordinates

也就是:

复制代码
0.0 ~ 1.0

后端真正处理 1920×1080 视频时,再转换回真实坐标。

例如:

复制代码
real_x = nx * widthreal_y = ny * height

这样无论前端预览图显示多大,ROI 在原视频中的位置都不会改变。


三、目标到底算不算进入 ROI?

这里仍然沿用了 Tracking 里的:

复制代码
Bottom-center Anchor

也就是目标框底边中点:

复制代码
anchor_x = (x1 + x2) / 2anchor_y = y2

为什么不用 bbox 中心?

因为对于道路场景:

  • 行人的 bottom-center 更接近脚的位置;
  • 汽车的 bottom-center 更接近车辆与地面的接触位置。

所以判断目标有没有进入一个地面区域时,比 bbox 中心更加自然。


四、任意多边形怎么判断 Inside / Outside?

这次 ROI 不是固定矩形,而是允许用户任意画多边形。

后端通过 OpenCV:

复制代码
cv2.pointPolygonTest()

判断目标 anchor 和多边形之间的关系。

它可以返回带符号距离:

复制代码
distance > 0
目标在 ROI 内部

distance < 0
目标在 ROI 外部

distance = 0
目标恰好在边界

这样一个五边形、六边形甚至更复杂的区域,都可以使用同一套逻辑。


五、为什么还要加 Border Tolerance?

如果只写:

复制代码
distance > 0 → INSIDE
distance < 0 → OUTSIDE

其实很容易出现问题。

检测框在 ROI 边缘会有轻微抖动:

复制代码
INSIDE
OUTSIDE
INSIDE
OUTSIDE

结果同一个人站在边界附近,可能瞬间产生大量:

复制代码
ENTRY
EXIT
ENTRY
EXIT

所以这次增加了:

复制代码
Border Tolerance

我实际测试设置为:

复制代码
8 px

判断逻辑变成:

复制代码
distance > tolerance
→ INSIDE

distance < -tolerance
→ OUTSIDE

|distance| <= tolerance
→ BORDER ZONE

进入 Border Zone 时,不立刻修改 Track 的稳定状态。

这样就能过滤掉边缘抖动产生的假 Entry / Exit。


六、Entry 和 Exit 其实是状态机

每一个 ByteTrack Track 都维护自己的 ROI 状态。

核心变化只有两种:

复制代码
OUTSIDE → INSIDE

生成:

复制代码
ENTRY

以及:

复制代码
INSIDE → OUTSIDE

生成:

复制代码
EXIT

这样我们就不再是对每一帧独立判断,而是真正跟踪一个目标从进入区域到离开区域的完整过程。


七、一个很重要的问题:第一次出现就在 ROI 里面怎么办?

这是我觉得这一版比较重要的一个细节。

假设一个 Person 第一次被 YOLO + ByteTrack 检测到的时候,它已经位于 ROI 内部。

此时状态实际上是:

复制代码
UNKNOWN → INSIDE

如果直接把它算成 ENTRY,就等于人为制造了一个不存在的"进入事件"。

所以现在的设计是:

复制代码
UNKNOWN → INSIDE

不生成 ENTRY。

但是会记录:

复制代码
first_seen_inside = true

并把它计入:

复制代码
Unique Tracks Inside

这一点在这次真实结果里也体现得非常明显。


八、真实测试:37 个目标中,24 个进入过 ROI

这次仍然使用之前那段真实测试视频:

复制代码
Resolution: 1920×1080
FPS: 29.97
Total Frames: 962
Duration: 32.10 s

参数设置:

复制代码
Confidence Threshold: 0.50
Frame Interval: Every Frame
Border Tolerance: 8 px
Dwell Threshold: 3 s
Track Trails: ON
Trail Length: 30

完整跑完:

复制代码
962 / 962 Frames
100%

最终得到:

复制代码
Unique Tracks Seen: 37
Unique Tracks Inside: 24
Max Occupancy: 5

也就是说:

整段视频中,ByteTrack 一共识别到:

复制代码
37 个不同目标

其中真正进入过这个 ROI 的有:

复制代码
24 个

而整个视频过程中,这个区域里同时存在目标最多的一帧是:

复制代码
5 个

九、为什么 Unique Inside = 24,但 Entry Events 只有 7?

这正好可以验证前面的:

复制代码
first_seen_inside

逻辑。

本次实际结果中:

复制代码
Unique Tracks Inside: 24
Entry Events: 7
Exit Events: 7

第一眼可能会觉得:

24 个目标进过 ROI,为什么只有 7 个 ENTRY?

原因是很多 Track 第一次被检测到的时候,就已经位于 ROI 内部。

这些目标:

复制代码
会计入 Unique Tracks Inside

但不会伪造:

复制代码
ENTRY Event

所以:

复制代码
Unique Inside
≠
Entry Events

这是两种完全不同的统计指标。

在页面的 Track 列表中,也可以直接看到:

复制代码
first seen inside

这样的状态。


十、Occupancy 和 Unique Inside 也不是一回事

这几个指标非常容易混淆。

Unique Tracks Inside

表示整段视频里:

一共有多少个不同 Track 曾经进入过 ROI?

这次是:

复制代码
24

Current Occupancy

表示:

当前这一帧区域里还有几个 Track?

视频最后一帧:

复制代码
Current Occupancy = 0

并不代表没有目标进入过区域。

只代表:

到最后一帧时,已经没有目标留在 ROI 里。

Max Occupancy

表示:

整个视频所有帧中,ROI 同时存在目标最多是多少?

这次为:

复制代码
Max Occupancy = 5

所以三个数字描述的是三件不同的事情。


十一、Dwell Time:目标到底停留了多久?

ROI Analysis 不只是判断:

复制代码
进没进去

还会记录:

复制代码
进去以后待了多久

当 Track 产生 ENTRY 后,就会保存:

复制代码
entry_timestamp

当产生 EXIT:

复制代码
exit_timestamp

这一段访问的停留时间就是:

复制代码
dwell =
exit_timestamp - entry_timestamp

如果同一个 Track 后面再次进入 ROI:

复制代码
Visit 1
+
Visit 2
+
Visit 3

每一次访问都会分别统计,最后再累计到:

复制代码
total_dwell

所以它不仅支持一次进出,也支持:

复制代码
Multiple Visits

十二、视频结束了,但目标还没有出去怎么办?

这个问题也需要单独处理。

例如一个 Car 在:

复制代码
30 秒

进入 ROI。

但是视频:

复制代码
32.1 秒

就结束了。

此时根本不存在 EXIT Event。

如果什么都不做,这两秒停留时间就会丢掉。

所以视频结束时会执行:

复制代码
finalize_open_visit()

使用:

复制代码
video_end_timestamp - entry_timestamp

关闭还没结束的 Visit。

这样可以保证 Dwell Time 不会因为视频结束而缺失。


十三、DWELLING 状态

这次还增加了:

复制代码
Dwell Threshold

我测试时设置的是:

复制代码
3 s

如果目标进入 ROI 以后:

复制代码
current_visit_dwell < 3s

页面显示:

复制代码
INSIDE

超过:

复制代码
3s

以后显示:

复制代码
DWELLING

注意:

复制代码
DWELLING

只是一个显示状态。

它不会改变真实的 Entry / Exit,也不会修改真实 Dwell Time。

它的作用主要是快速找出:

在 ROI 内停留时间比较长的目标。


十四、真实结果还能按类别统计停留时间

本次测试中,进入 ROI 的目标主要包括:

复制代码
Car
Person

页面会进一步按类别生成:

复制代码
Dwell Summary by Class

包括:

复制代码
Unique Inside
Entries
Average Dwell
Max Dwell

这就意味着系统已经可以回答类似:

一共有多少辆车进入这个区域?
行人在这个区域平均停留多久?
哪一类目标停留时间最长?

相比最开始的:

复制代码
YOLO → 有什么目标

已经完全变成了视频行为统计。


十五、ROI Tracks 可以看到每一个目标

Summary 看的是整体。

而 ROI Tracks 则是:

复制代码
Track-level

每一个 Track 都可以独立查看:

复制代码
Track ID
Class
First Seen Inside
Visits
Total Dwell
Longest Visit
Frames Seen
Current Status

而且支持按照:

复制代码
Class
Status

筛选。

例如:

复制代码
INSIDE
EXITED
DWELLING

筛选只是改变页面展示,不会修改底层真实数据。


十六、ROI Events 记录每一次 Entry / Exit

除了 Track 列表,还有 Event 列表。

每一次真正的:

复制代码
ENTRY

或者:

复制代码
EXIT

都会形成一条事件。

记录内容包括:

复制代码
Event Type
Track ID
Class
Frame
Timestamp
Anchor

这就不再只是一个:

复制代码
count += 1

而是完整的结构化事件记录。


十七、支持三种结果导出

这一次一共做了三个导出按钮:

复制代码
Export ROI JSON
Export ROI Tracks CSV
Export ROI Events CSV

ROI JSON

保存整个分析结果:

复制代码
ROI polygon
settings
summary
tracks
events

Tracks CSV

一个 Track 一行,适合分析:

复制代码
每个目标的总停留时间
访问次数
最长单次停留
最终状态

Events CSV

一个 ENTRY / EXIT Event 一行。

适合后续:

复制代码
Excel
Pandas
统计分析

而且这些导出都直接基于已经完成的真实结果:

复制代码
不会重新跑 YOLO

十八、从 3989 次检测,到真正的区域行为分析

做到这里以后,可以把整个视频分析路线连起来看。

最开始 Video Detection 得到的是:

复制代码
3989 Detection Events

它描述:

每一帧检测到了多少目标。

加入 ByteTrack 后:

复制代码
37 Unique Objects

它回答:

整段视频到底有多少个不同目标?

Line Crossing:

复制代码
1 Crossing Event

回答:

有多少目标真正经过指定位置?

而现在 ROI:

复制代码
37 Unique Tracks Seen
↓
24 Unique Tracks Inside
↓
Max Occupancy = 5
↓
Entry / Exit
↓
Dwell Time

开始回答:

目标进入了哪里,又在那里停留了多久?

这已经从简单目标检测,逐渐变成了一套基础的视频场景分析系统。


十九、集成后测试:215 个 pytest 全部通过

这次 ROI 一开始是在独立分支:

复制代码
feat/roi-dwell

开发的。

因为同时还有 Line Crossing 在另外一条开发线上,所以最后又把 ROI rebase 到最新 main,解决了:

复制代码
app/main.py
app/schemas.py
static/app.js
static/index.html
static/style.css
tests/test_frontend_logic.js

等冲突。

最终集成后的结果:

复制代码
215 passed

前端逻辑测试:

复制代码
126 assertions passed

而且:

复制代码
Single Image
Batch Images
Video
Tracking
Line Crossing
ROI Analysis

六种模式全部保留。


总结

这一次最大的变化,是项目开始真正分析:

复制代码
空间
+
时间

Line Crossing 关注的是:

有没有跨过某条边界?

ROI Analysis 关注的是:

有没有进入某个区域?

区域里现在有几个目标?

最多同时有几个?

每个目标停留了多久?

最终整个技术链路变成:

复制代码
YOLO
↓
ByteTrack
↓
Track ID
↓
Bottom-center Anchor
↓
Polygon ROI
↓
Point-in-polygon
↓
Border Tolerance
↓
Entry / Exit State Machine
↓
Occupancy
↓
Dwell Time

这次真实实验中:

复制代码
37 Unique Tracks Seen
24 Unique Tracks Inside
Max Occupancy = 5
Entry Events = 7
Exit Events = 7

相比最开始只在图片上画一个 Bounding Box,现在已经可以从视频中分析目标的:

复制代码
出现
跟踪
过线
进入区域
离开区域
占用情况
停留时间

项目地址:

yolo-object-detection-lab:基于 FastAPI 与 Ultralytics YOLO 的图像目标检测实验项目 - AtomGit

下一步如果继续往下做,我准备从 ROI 和 Tracking 的数据继续扩展,例如:

复制代码
轨迹热力图
区域流转统计
不同 ROI 之间的转移分析

把单个目标的轨迹进一步变成可统计的视频行为数据。

相关推荐
jay神6 天前
基于 YOLOv8 的传送带异物检测系统(Web 版)
前端·人工智能·深度学习·yolo·计算机视觉·计算机毕业设计
jay神9 天前
基于 YOLOv8 的手势识别系统(Web 版)
前端·人工智能·python·深度学习·yolo·计算机视觉·计算机毕业设计
鱼听禅9 天前
Ubuntu安装YOLOv8进行菌落识别训练
linux·python·yolo·ubuntu
jay神11 天前
基于深度学习的交通流量预测系统(Web 版)
前端·人工智能·深度学习·yolo·计算机毕业设计
带电的小王12 天前
YOLO27:官方预览页放出全部规格,60.5 mAP 破 YOLO 纪录,但权重还没发布
yolo
jay神12 天前
基于 YOLOv8 的轴承缺陷检测(Web 版)
前端·人工智能·yolo
jay神12 天前
基于 YOLOv8 的森林火灾检测系统(Web 版)
前端·yolo
微尘hjx12 天前
【Deep-OC-SORT 06】多轨迹算法Deep-OC-SORT-CMC相机运动补偿
yolo·目标检测·目标跟踪·ultralytics·轨迹算法·deep-oc-sort·车流统计
LongRunning13 天前
【Linux】RK3568-OpenCV+YOLO(八)
linux·opencv·yolo
微尘hjx17 天前
【Deep-OC-SORT 01】多轨迹算法Deep-OC-SORT源码分析
深度学习·yolo·目标跟踪·ultralytics·轨迹算法·deep-oc-sort·车流统计