音频的传输链路与延迟优化点

麦克风->系统采集模块->APP采集模块->3A、混响等音效->混音->音频编码->RTC网络发送->

MediaServer->RTC网络接收->音频jitter buffer->音频解码->音频的后处理(均衡)->APP播放模块->x系统播放模块->扬声器/耳机。

整个链路如上;

采播延迟:

音频的『采播延迟』不同机型的差异比较大,iOS效果比较好,采集+播放大约在20-30ms.

Android好的机型在30ms,差的机型可以达到300ms.

优化手段:通过AAudio等方式对延迟进行优化。

目标延迟:iOS:20-30 Android: 部分机型30-70ms

3A延迟

音效需要分开来看,一般混响类音效不会引入延迟,但是变声类音效会引入延迟。

优化手段:佩戴有线耳机,可以关闭3A,减少30ms延迟。

对外外放场景,可以对30ms的3A算法进行优化到10ms。

限制不开启音效,或者只开启不引入延迟的混响音效。

目标延迟:耳机 0ms。 外放 10ms。

RTC编码

RTC的音频编码帧长一般是20ms.

优化手段:需要将编码帧长变为10ms, 支持全链路10ms帧长,减少10ms延迟。

RTC网络延迟

一般就是RTT/2, 通过多部署边缘服务器来做到尽可能离得用户近一点,通过关闭Pacer等网络传输策略的优化。

网络较好的情况下,延迟约为5-10ms。

音频jitter buffer延迟

引入延迟最多的地方,是RTC区别于直播,能做到百毫秒延迟的原因,主要是根据网络状态动态调整jitter buffer的大小。

引入延迟的目的是为了抗抖动,延迟越高,抗抖动能力越强,卡断越少。

相比于延迟,卡顿对于用户体验影响更大,一般会引入100-1000ms的延迟,大部分场景在300ms一下。

优化手段:

减少jitter buffer的大小,结合其他手段来减少卡顿(FEC、NACK、主动重传、快速下降、10ms编码帧长)来防止频繁的卡断。

最小维持在30-40ms,才能保证MOS打分。

理想情况下的总延迟(iOS):

30(采播延迟) + 0(3A+音效bypass)+ 5(编码)+5(上行网络传输)+5(下行网络传输)+35(jitter buffer)+0(后处理算法bypass) = 80ms。

相关推荐
PHP实战开发录23 分钟前
PHP事务异常后为什么数据还写进去了
mysql·php·开发
djarmy4 小时前
MAIN.c(1): warning C318: can’t open file ‘STC8G.H’ 报错 解决 分析
c语言·开发语言·mongodb
HEJOO94 小时前
深入理解 Java volatile 关键字:原理、用法与常见误区
java·开发语言·spring
曹牧4 小时前
Java:no content to map due to end of input
java·开发语言
梦梦代码精4 小时前
《回收租赁系统技术选型避坑指南:业务闭环与二开自由度详解》
开发语言·低代码·docker·开源·代码规范
隔窗听雨眠4 小时前
记一次SQL Server数据库性能分析:从CPU100%到单配置修复的完整诊断
开发语言·数据库·php
David猪大卫5 小时前
【C++修炼】智能指针使用及原理
开发语言·c++·经验分享·笔记·学习·考研·面试
charlie1145141915 小时前
现代Qt开发之图像处理进阶:像素操作与格式转换
开发语言·图像处理·qt
李永奉5 小时前
中科蓝讯SDK开发-BT893x 面条耳机连接vivo手机后连接APP端,最后手机端设置页面手动断开蓝牙连接,此时耳机端假断开
c语言·开发语言·嵌入式硬件·物联网·智能手机·电脑
小柯南敲键盘5 小时前
跨马翻译:AI批量图片翻译工具,跨境电商视频字幕翻译与智能抠图一体搞定
人工智能·python·音视频