OpenCV开发笔记（七十九）：基于Stitcher类实现全景图片拼接

前言

一个摄像头视野不大的时候，我们希望进行两个视野合并，这样让正视的视野增大，从而可以看到更广阔的标准视野。拼接的方法分为两条路，第一条路是stitcher类，第二条思路是特征点匹配。

本篇使用stitcher匹配，进行两张图来视野合并拼接。

Demo

两张图拼接过程

步骤一：打开图片

cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg"); cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg"); 

步骤二：加入图片进入队列

std::vector<cv::Mat> vectorMat; vectorMat.push_back(mat); vectorMat.push_back(mat2); 

步骤三：创建拼接类

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false); //cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false); 

步骤四：拼接

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false); LOG; cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat); LOG; if(status != cv::Stitcher::OK) { std::cout << "Failed to stitch, status =" << status << std::endl; return; } 

对拼接后显示所有：

cv::namedWindow("mat", cv::WINDOW_NORMAL); cv::imshow("mat", mat); cv::resizeWindow("mat", cv::Size(400, 300)); cv::namedWindow("mat2", cv::WINDOW_NORMAL); cv::imshow("mat2", mat2); cv::resizeWindow("mat2", cv::Size(400, 300)); cv::namedWindow("resultMat", cv::WINDOW_NORMAL); cv::imshow("resultMat", resultMat); cv::resizeWindow("resultMat", cv::Size(400, 300)); 

步骤五：对图像进行宽高黑边裁剪（略）

直接写个算法对周边黑色区域进行矩形探测，然后裁剪即可，方法很多，一般我们拍照的图片都不是全黑的，而黑边是全黑的，这个算法写起来有明显的特征。

耗时测试

原始图像1701x1280像素，耗时477ms左右

  
  原始图片1701x1280像素，拼接消耗的时间约477ms：

图像缩小至400x300像素，耗时390ms左右

然后对其图片进行缩放后测试其耗时：

  
  将图片统一缩放为800x600分辨率，其拼接耗时在390ms左右。

图像放大至1920x1080像素，耗时530ms左右

  
  将图片放大至1920x1080分辨率，其拼接耗时在530ms左右

注意

本次测试并不严谨，基于同样图的缩放，单纯控制像素缩放来比较，但是得出的结论可以反应图像大小的影响，最终的耗时是受多方因素影响，包括但不限于检测特征电的数量、重叠区域的大小、像素分辨率、多图。

结论

这种方式适合对照片进行拼接，对黑边处理之后，效果很不错，但是，调用stitcher类实现时对图片的特征匹配有要求，一些特征点不够的图片无法拼接，并且，当图片较大或多张图片拼接时，速度慢。所以，倘若放到视频上，一秒钟25-60fps，那就肯定不行了。

SIFT算法拼接，SIFT算法可以提供较高的准确率，得到的图片需要经过再次处理，才能得到相对较好的图片，

ORB算法拼接，算法的速度非常快，但是最容易出现问题，且得到的图片需要经过再次处理，才能得到相对较好的图片，

函数原型

函数cv::Stitcher::create

static Ptr<Stitcher> create(Mode mode = PANORAMA, bool try_use_gpu = false); 

• 参数一：拼接模式枚举，只有2个值PANORAMA和SCANS
  PANORAMA：创建照片全景的模式，期望图像处于透视状态；
  SCANS：合成扫描的模式。期望仿射变换下的图像，默认情况下不补偿曝光。（由于咱们一般总归有角度偏移，所以这个方式对拼接图像有较高要求）
• 参数二：是否使用gpu，这种方式编译opencv得带上gpu编译，编译opencv的时候开启支持gpu，在arm上的话，需要先确认芯片是否支持GPU，然后安装GPU驱动，然后编译opencv支持GPU选项，才可以。

函数cv::Stitcher:: stitch

CV_WRAP Status stitch(InputArrayOfArrays images, OutputArray pano); 

• 参数一：输入图像列表
• 参数二：输出拼接结果

Status stitch(InputArrayOfArrays images, const std::vector<std::vector<Rect> > &rois, OutputArray pano); 

• 参数一：输入图像列表
• 参数二：输入图像列表依次需要拼接的区域
• 参数三：输出拼接结果

Demo源码

void OpenCVManager::testStitchImages() { cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg"); cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg"); #if 0 // 拼接环视全景，特征点是完全不够，无法使用该方法，同时就算能拼也无法达到新能要求 cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/front_2024-08-22_17-15-08_result.png"); cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/left_2024-08-22_17-15-10_result.png"); cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/right_2024-08-22_17-15-11_result.png"); #endif #if 1 // 对图片进行缩放，测试其拼接耗时 cv::resize(mat, mat, cv::Size(1920, 1080)); cv::resize(mat2, mat2, cv::Size(1920, 1080)); #endif std::vector<cv::Mat> vectorMat; vectorMat.push_back(mat); vectorMat.push_back(mat2); cv::Mat resultMat; cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false); // cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false); LOG; cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat); LOG; if(status != cv::Stitcher::OK) { std::cout << "Failed to stitch, status =" << status << std::endl; return; } cv::namedWindow("mat", cv::WINDOW_NORMAL); cv::imshow("mat", mat); cv::resizeWindow("mat", cv::Size(400, 300)); cv::namedWindow("mat2", cv::WINDOW_NORMAL); cv::imshow("mat2", mat2); cv::resizeWindow("mat2", cv::Size(400, 300)); cv::namedWindow("resultMat", cv::WINDOW_NORMAL); cv::imshow("resultMat", resultMat); cv::resizeWindow("resultMat", cv::Size(400, 300)); cv::waitKey(0); } 

对应工程模板v1.69.0