Carla仿真系列:5_Carla 四路相机标定与BEV环视拼接

前面几期把环境搭好、加了NPC、跑通YOLO、装了四路相机,这期是系列的核心------把四路相机图像拼成一张完整的鸟瞰环视图。

1 为什么 BEV 环视重要

自动驾驶要看到车四周360度的情况,靠单路相机做不到。BEV(Bird's Eye View)就是把前后左右四路相机的图像,投影到车顶俯视视角,拼成一张完整的环视图。

复制代码
       前
        ↑
左 ←── 车 ──→ 右
        ↓
       后

4路相机 → 各自标定 → 投影到BEV → 拼接成360度环视

2 整体流程

复制代码
启动环境(前几期一样)
    ↓
获取四路相机图像
    ↓
创建标定棋盘格
    ↓
每路相机计算 H 矩阵(单应矩阵)
    ↓
四路图像投影到 BEV 并拼接

第一步到第五步:准备阶段

环境启动、ROS Bridge、TCP图像传输、棋盘格创建,都跟前几期一样,按顺序执行:

bash 复制代码
# 终端1-2:启动容器 + Carla UE4
# 终端3:启动 ROS Bridge
# 终端4:多相机 TCP 服务端
python tcp_bridge/tcp_bridge_server_multi_camera_py2.py
# 终端5:接收图像
python tcp_bridge_client_py3.py
# 终端6:创建网格
python scripts/create_board_py2.py --vehicle-id 513 #这个ID是在启动 ROS Bridge时可以查看ego_vehicle参数

第六步:相机标定计算 H 矩阵

这是 BEV 拼接的核心。每路相机都需要计算一个单应矩阵 H,把相机视角的图像投影到 BEV 俯视视角。

bash 复制代码
cd /opt/carla_ws/sim_workspace/bev_surround
source activate py310

# 分别标定四个相机
python camera_bev_calib_py3.py --name front
python camera_bev_calib_py3.py --name back
python camera_bev_calib_py3.py --name left
python camera_bev_calib_py3.py --name right

标定原理:

复制代码
相机图像中的棋盘格角点
    ↓ 检测角点
建立 图像坐标 ↔ 世界坐标 对应关系
    ↓ 求解
单应矩阵 H(3x3)
    ↓ 应用
相机图像 → BEV俯视图像

关键点: 四路相机必须用同一个世界坐标系(统一的地面平面),否则拼接时四个角会对不齐。

第七步:BEV 拼接

四路相机都标定好后,执行拼接:

bash 复制代码
python bev_surround_py3.py

运行后可以看到:

  • 四路相机图像被投影到 BEV 视角
  • 前后左右拼成完整的360度环视图
  • 车辆周围的地面、车道线、障碍物都显示在鸟瞰图上

    需要说明一下:目前只实现了demo的效果,没有对4个角进行优化对齐,所以效果不是很好。

3 几个关键点

要点 说明
统一坐标系 四路相机共用同一地面平面,拼接才对齐
棋盘格标定 标定板/标定布,角点检测要准确
重叠区域 相邻相机留30度重叠,拼接处做融合
H矩阵精度 标定不准,拼接就歪,这是最花时间的地方

5_4个摄像头的标定和bev拼接

4 下一期

做图像的语义分割,再将语义分割结果投影到BEV空间得到语义BEV。

往期回顾

如果本文对你有帮助,欢迎点赞、关注、收藏 。

遇到问题可以评论区留言交流,也欢迎转发给需要的朋友。

相关推荐
段一凡-华北理工大学15 小时前
高炉炼铁机器视觉与智能识别十八讲~系列文章06:铁口与出铁场:出铁状态识别与渣铁分离判断
人工智能·数码相机·计算机视觉·高炉出铁识别·高炉渣铁分离·高炉铁口识别
黑妹天下第一乖17 小时前
第 12 讲:阿加犀 AidLux 部署与量产——把端侧 AI 应用做成 7×24 产品
人工智能·嵌入式硬件·数码相机·接口隔离原则·iot
高升说18 小时前
BEV环视硬件搭建全解析:机位、视场、链路与同步的工程方法
人工智能·数码相机
黑妹天下第一乖20 小时前
第 10 讲:阿加犀 AidVoice 端侧语音交互与语音识别实战
图像处理·人工智能·数码相机·opencv·交互·语音识别·xcode
黑妹天下第一乖2 天前
第 05 讲:阿加犀 AidCV 图像处理加速与 OpenCV 一致开发实战
开发语言·图像处理·人工智能·嵌入式硬件·数码相机·opencv·计算机视觉
黑妹天下第一乖2 天前
第08讲 · 视觉与相机流水:Spectra ISP 与实时检测
人工智能·嵌入式硬件·数码相机·机器人·接口隔离原则·iot
Mark White3 天前
ICCV 2019【从颜色科学到相机】02_颜色从哪里来?从光谱、同色异谱到 CIE XYZ
数码相机
hahaha60163 天前
色彩恒常性概述
人工智能·嵌入式硬件·数码相机·计算机视觉
hahaha60163 天前
白平衡综述
数码相机
shoufeipin90hou4 天前
4K 线扫相机的行频匹配:带速一变,图像为什么会变形
数码相机·计算机视觉