音视频基础知识

一、颜色

1、反射

我们日常所见的不发光物体,它们都是靠反光才能让我们眼镜观察到,白色的不发光物体可以反射一切光,黑色则吸收一切光,因此不发光物体是由组成它材料的吸光性来决定的,但是计算机或者是电视屏幕等等,它们本身就是发光体,因此在数字显示的世界里,它们一般使用RGB色彩空间。

2、图像的颜色存储

在计算机中,每一幅图像往往都是一个二维矩形块,存储单位是像素点。比如一个640800大小的图片,就是横向有640个像素的,纵向有800个像素点,一共有640 800也就是512000个像素点。如果是RGB的色彩图像,每个颜色分量称为一个通道(channel)通常每个像素的每种颜色用1字节(8位)表示。为了描述图像透明的性质,又在像素上增加了一个表示透明度的分离 "Alpha" 通道。

注意:因为不同的计算机体系结构(大端小端的问题),为了数据互通,因此出现了多种不同的存储方式,例如 RGBA、ARGB 、BGRA 、ABGR等等。

二、图像

1、分辨率

显示器上横向和纵向的像素点的数量就称为显示器的分辨率,一般以宽X高表示,比如常见的1080p(1920*1080),其中p指的是逐行扫描,而1080i指的是隔行扫描。所以完整扫描一个画面并展示在显示器上是由图像的高度(行数)来决定的。这也是为什么通常称1080p或者720p的由来。

2、帧率

帧率(FPS,Frame Per Seconds)即1秒内展示的帧数。

3、视频编码

为了降低存储空间和传输带宽的占用,一般使用视频压缩技术。

  • JPEG
    人眼并不是对所有颜色都敏感,因此可以去掉一些颜色,对图像进行压缩,这个称为有损压缩。
  • H.264、H.265、VP8、 AVI等
    根据相邻帧之间的画面差异性进行压缩,即I帧、P帧、B帧。

4、YUV

需要编解码的视频图像一般不适用RGB色彩空间,而是采用YUV色彩空间,两者之间有直接的对应关系,但是由于涉及到浮点运算,因此转换过程是有损失的,但是人眼几乎是分辨不出来的。

三、声音

为了将现实的音频放到数字世界里,需要一个模数转换(ADC),也运用到了傅里叶变换。

1、PCM

模数转换中通常使用PCM(脉冲编码调制)方法,它是一种通常的将模拟信号转换成0或1表示的数字信号的方式。

相关推荐
REDcker5 天前
WebCodecs VideoDecoder 的 hardwareAcceleration 使用
前端·音视频·实时音视频·直播·webcodecs·videodecoder
gihigo19985 天前
基于TCP协议实现视频采集与通信
网络协议·tcp/ip·音视频
山河君5 天前
四麦克风声源定位实战:基于 GCC-PHAT + 最小二乘法实现 DOA
算法·音视频·语音识别·信号处理·最小二乘法·tdoa
音视频牛哥6 天前
Android平台RTMP/RTSP超低延迟直播播放器开发详解——基于SmartMediaKit深度实践
android·人工智能·计算机视觉·音视频·rtmp播放器·安卓rtmp播放器·rtmp直播播放器
qq_416276426 天前
通用音频表征的对比学习
学习·音视频
美狐美颜sdk6 天前
Android全局美颜sdk实现方案详解
人工智能·音视频·美颜sdk·视频美颜sdk·美狐美颜sdk
EasyDSS6 天前
私有化部署EasyDSS视频点播能力:全链路视频技术赋能,打造企业级视听新体验
音视频·hls·m3u8·点播技术·智能转码
qq_416276426 天前
DeLoRes——一种通用的音频表征学习新方法(DeLoRes(基于 Barlow Twins 的冗余最小化方法)
学习·音视频
Q_4582838686 天前
从定位到视频:808 + 1078 在各行业的落地实践
音视频
山顶望月川6 天前
实测MiniMax-Hailuo-02:当“开工大吉“变成“无字天书“,国产AI视频模型的能与之不能
人工智能·音视频