【开源鸿蒙-AVCodec Kit】音视频编解码封装解封装部件介绍,转自开源鸿蒙官媒OpenAtom OpenHarmony

是否有探索开源鸿蒙音视频编解码技术的欲望?是否对开源鸿蒙音视频编解码格式支持有诉求?别急------今天这份开源鸿蒙AVCodec Kit介绍文章,就是解答疑惑的指南!参考这份指南,可以使用开源鸿蒙的音视频编解码能力,进行应用开发;也可以参与共建,让开源鸿蒙音视频编解码更加完善!

一、概述

AVCodec Kit(Audio & Video Codec Kit,音视频编解码,封装解析)是媒体系统中的音视频的编解码、媒体文件的解析、封装、媒体数据输入等原子能力。 基于性能考虑,AVCodec Kit仅提供C接口。

1.1 功能模块

1.2 简易架构图

二、亮点/特征

2.1系统内部数据零拷贝

在视频解码过程,AVCodec通过回调函数提供AVBuffer给应用,由应用将要解码的sample数据写入AVBuffer,在AVCodec中数据不再需要从内存拷入硬件解码器,而是直接送入解码器解码,实现系统内数据零拷贝。

2.2视频编码、解码支持硬件加速

支持H.264、H.265、H.265 10bit的硬件编解码。

三、AVCodec Kit三大功能模块简介

3.1音频编解码

3.1.1功能简介

音频编码的输入和音频解码的输出为PCM格式。

3.1.2流程图

3.1.3流程说明

  • 在编码过程中,采集模块将PCM数据通过回调函数通知应用数据处理的情况。

  • 完成一帧编码,输出编码结果AVBuffer。

  • 在解码过程通过回调通知应用输入一帧码流到解码器解码,当解码完成也会通过回调通知应用解码完成。

  • 应用可以对数据做后续处理。

3.2视频编解码

3.2.1功能简介

视频编码的输入和视频解码的输出支持Surface模式。

3.2.2流程图

3.2.3流程说明

  • 在编码过程中,将surface数据通过回调函数通知应用数据处理的情况。

  • 完成一帧编码,输出编码结果AVBuffer。

  • 在解码过程通过回调通知应用输入一帧码流到解码器解码。

  • 当解码完成也会通过回调通知应用解码完成,应用可以对数据做后续处理。

3.3媒体文件封装解封装

3.3.1功能简介

将编码后的音视频数据封装为媒体文件,将媒体文件解析为音视频数据。

3.3.2流程图

3.3.3流程说明

  • 在文件封装环节,应用将AVBuffer送入Codec对应的接口,执行数据封装。

  • AVBuffer可以是由上述编码输出的AVBuffer,也可以是应用创建的AVBuffer,AVBuffer中要携带有效的码流数据和相关的时间描述等信息。

  • 在文件解封装环节,应用从Codec对应的接口获得携带有码流数据的AVBuffer,该AVBuffer可以送入上述视频和音频编解码对应接口。

四、参考资料

4.1音频编码指南

https://docs.openharmony.cn/pages/v5.1/zh-cn/application-dev/media/avcodec/audio-decoding.md

4.2音频解码指南

https://docs.openharmony.cn/pages/v5.1/zh-cn/application-dev/media/avcodec/audio-encoding.md

4.3视频编码Surface模式

https://docs.openharmony.cn/pages/v5.1/zh-cn/application-dev/media/avcodec/video-encoding.md#surface模式

4.4视频解码Surface模式

https://docs.openharmony.cn/pages/v5.1/zh-cn/application-dev/media/avcodec/video-decoding.md#surface模式

4.5媒体数据解封装

https://docs.openharmony.cn/pages/v5.1/zh-cn/application-dev/media/avcodec/audio-video-demuxer.md

4.6媒体数据封装

https://docs.openharmony.cn/pages/v5.1/zh-cn/application-dev/media/avcodec/audio-video-muxer.md

4.7相关代码仓

https://gitcode.com/openharmony/multimedia_av_codec

https://gitcode.com/openharmony/multimedia_media_foundation

https://gitcode.com/openharmony/third_party_ffmpeg

五、结语

AVCodec Kit使得应用能够直接调用系统提供的编解码、封装、解封装能力实现音视频的播放、录制、编码等功能。AVCodec Kit既是开发助手,也是技术展现的大舞台!欢迎加入开源鸿蒙音视频格式解码解封装共建,我们在开源鸿蒙开发者视频号进行了音视频解码解封装的共建赋能,欢迎开发者跟随直播或查看回放来了解相关知识,一起参与开源鸿蒙生态建设,共建更开放、更智能的未来世界。

供稿:教育工作组 庄文琪、刘丽红

责编:开发者与活动运营组 周程威

编审:品牌管理组 丽娜

审核:开源鸿蒙工作委员会执行总监 陶铭

开源鸿蒙工作委员会执行秘书 曹云菲

相关推荐
youyin1 天前
HarmonyOS ArkUI 组件与自定义组件零基础:从搭页面到组件化开发
华为·harmonyos
HwJack201 天前
【HarmonyOS开发小实践】ArkTS 从 TypeScript 到方舟语言的演进
华为·harmonyos
威哥爱编程2 天前
HarmonyOS 7 星盾机密风控实战:设备风险因子端侧融合计算,可用不可见
harmonyos·arkts
威哥爱编程2 天前
HarmonyOS 7 应用快启实战:关键资源预加载进内存,冷启告别白屏
华为·harmonyos·arkts
马剑威(威哥爱编程)2 天前
【共创稿事节】HarmonyOS 7 视觉 AI 进阶实战:人脸检测 + 通用文字识别(OCR)两步接入
华为·harmonyos·arkts
HMS Core2 天前
HarmonyOS智慧多窗,让应用在任意窗口都“恰到好处”
harmonyos
梦想不只是梦与想2 天前
鸿蒙 应用发布准备工作(一)
harmonyos·鸿蒙上架·鸿蒙应用发布
马剑威(威哥爱编程)2 天前
【共创稿事节】HarmonyOS 7 文搜图实战:自然语言检索本地图片,全流程端侧闭环
华为·harmonyos
李游Leo2 天前
HarmonyOS 7 HAR + HSP 工程化实战:模块复用、包体积控制与依赖边界
harmonyos