关于视频抽帧调用虹软人脸识别的BufferedImage读取优化策略

背景说明:

1、在使用 FfmpegFrameGrabber 调用本地视频文件,逐帧读取视频内容

复制代码
FFmpegFrameGrabber grabber = new FFmpegFrameGrabber(file);
// 不读取音频,否则frame.image = null
grabber.setAudioStream(-1);
grabber.start();

2、遍历所有帧

复制代码
while(true){
    // 抓取目标帧
    Frame frame = grabber.grabFrame();
    if(frame == null){
        break;
    }
    if(frame.image == null){
      continue;
    }
}

3、frame转BufferedImage

在大部分的网站搜索中,通常使用Java2DFrameConverter 函数进行frame提取转换,

但占用过多CPU

复制代码
import com.arcsoft.face.FaceInfo;
import com.arcsoft.face.enums.ImageFormat;
import com.arcsoft.face.toolkit.ImageFactory;
import com.arcsoft.face.toolkit.ImageInfo;import org.bytedeco.javacv.FFmpegFrameGrabber;
import org.bytedeco.javacv.Frame;
import org.bytedeco.javacv.Java2DFrameConverter;
import javax.imageio.ImageIO;
import java.awt.image.BufferedImage;
import java.io.ByteArrayOutputStream;
import java.nio.ByteBuffer;

Java2DFrameConverter jfc = new Java2DFrameConverter();
BufferedImage bufferedImage = jfc.getBufferedImage(frame);
ImageInfo imageInfo = ImageFactory.bufferedImage2ImageInfo(bufferedImage);

4、采用读取Frame.image直接获取

复制代码
ImageInfo imageInfo = new ImageInfo();
imageInfo.setWidth(frame.imageWidth);
imageInfo.setHeight(frame.imageHeight);
imageInfo.setImageFormat(ImageFormat.CP_PAF_RGB24);
imageInfo.setImageData(convertByteArray((ByteBuffer)frame.image[0]));
复制代码
private  byte[] convertByteArray(ByteBuffer buffer)   {
    int length = buffer.remaining();
    // 创建目标 byte[] 数组
    byte[] result = new byte[length];
    int offset = 0;
    // 复制每个 DirectByteBuffer 的内容到 byte[] 数组
    buffer.get(result, offset, length);
    buffer.rewind(); // 重置缓冲区位置
    return result;
}

部分参数的变动需要参考读取帧Frame对象的内容做适当调整

参考 Java2DFrameConverter 的 getBufferedImageType()

复制代码
public static int getBufferedImageType(Frame frame) {
        int type = 0;
        if (frame.imageChannels == 1) {
            if (frame.imageDepth != 8 && frame.imageDepth != -8) {
                if (frame.imageDepth == 16) {
                    type = 11;
                }
            } else {
                type = 10;
            }
        } else if (frame.imageChannels == 3) {
            if (frame.imageDepth == 8 || frame.imageDepth == -8) {
                type = 5;
            }
        } else if (frame.imageChannels == 4 && (frame.imageDepth == 8 || frame.imageDepth == -8)) {
            type = 6;
        }

        return type;
    }
相关推荐
xmode9 小时前
centos7.9安装ffmpeg6.1和NASM、Yasm、x264、x265、fdk-aac、lame、opus解码器
ffmpeg·centos
站在巨人肩膀上的码农9 小时前
全志T507 音频ALSA核心层注册流程分析
驱动开发·音视频·安卓·全志·alsa·声卡
王江奎17 小时前
FFmpeg 升级指北
ffmpeg
】余1853816280019 小时前
碰一碰发视频源码搭建与定制化开发:支持OEM
音视频
张晓~1833994812120 小时前
数字人分身+矩阵系统聚合+碰一碰发视频: 源码搭建-支持OEM
线性代数·矩阵·音视频
山登绝顶我为峰 3(^v^)31 天前
如何录制带备注的演示文稿(LaTex Beamer + Pympress)
c++·线性代数·算法·计算机·密码学·音视频·latex
雨夜和阳晨1 天前
FFmpeg录制屏幕及声音
ffmpeg
吴声子夜歌1 天前
FFmpeg——基础知识及FFmpeg框架
ffmpeg
却道天凉_好个秋1 天前
音视频学习(三十六):websocket协议总结
websocket·音视频
【余185381628001 天前
碰一碰发视频源码搭建定制化开发:支持OEM
音视频