平衡操控应用场景探讨及RTSP技术实现

​平衡操控应用背景

平行操控场景,通过超低延时视频通信技术与实时信令技术结合,使得操作者可以实时的驾驶/操作远端的无人车或机械设备。

相比传统近距离的遥控,平行操控的传输网构建在互联网之上,突破了传统距离限制,操控者可以实时遥控几百甚至上千公里以外的设备。在平行操控的应用场景上,应急接管、高危作业和远程服务是平行操控典型的三个业务场景。

首先是应急接管,以无人车为例,无人车目前被广泛应用在机场、码头、港口等地方,但应用过程中往往会出现如暴风雨、交通管制、突发事故等一些无法自主决策的场景。相较此前需要人为介入到现场处理,平行操控则可以更快、更低的成本解决这个问题。

第二是高危作业,在井下矿车、高空作业机器人、无人挖掘机等危险指数较高或环境恶劣等工作场景中,平行操控可以很好地发挥价值。

第三是远程服务,如机器人、云赛车、无人机之类的场景,操作者可以借助云服务操控这些无人值守设备。随着5G、AI、智能驾驶技术、实时互动技术的快速发展,虚实互动的平行操控场景开始受到行业关注。如物流园区的无人车、矿区的无人驾驶矿车,港口的无人集卡车,以及远程接管脱困的云代驾等,都需要平行操控类技术支持。

技术方案

针对平衡操控场景,我们最需要关注的是两点:人车协同和远程控制,对我们来说,意味着超低的延迟下,设备实时信令控制才有价值。

本文以大牛直播SDK的Windows平台轻量级RTSP服务为例,Windows平台轻量级RTSP服务采集毫秒计时器窗口,然后,对外输出RTSP URL,SmartPlayer播放端拉取RTSP的流数据,可以看到整体延迟毫秒级,完全可以满足平衡操控场景所需的延迟需求。

技术架构如下:

延迟如下:

轻量级RTSP服务功能设计如下:

  • 音频格式\]AAC;

  • 协议类型\]RTSP;

  • 端口设置\]支持RTSP端口设置;

  • 获取session连接数\]支持获取当前RTSP服务会话连接数;

  • RTSP url回调\]支持设置后的rtsp url通过event回调到上层。

  • 支持播放协议\]高稳定、毫秒级超低延迟;

  • 事件回调\]支持网络状态、buffer状态等回调;

  • 音频格式\]支持AAC/PCMA/PCMU;

  • H.264硬解码\]Windows/Android/iOS支持特定机型H.264硬解;

  • H.264/H.265硬解码\]Android支持设置Surface模式硬解和普通模式硬解码;

  • RTSP TCP/UDP自动切换\]支持RTSP TCP、UDP模式自动切换;

  • RTSP 401认证处理\]支持上报RTSP 401事件,如URL携带鉴权信息,会自动处理;

  • 首屏秒开\]支持首屏秒开模式;

  • 快速切换URL\]支持播放过程中,快速切换其他URL,内容切换更快;

  • 实时静音\]支持播放过程中,实时静音/取消静音;

  • 实时快照\]支持播放过程中截取当前播放画面;

  • 渲染角度\]支持0°,90°,180°和270°四个视频画面渲染角度设置;

  • 等比例缩放\]支持图像等比例缩放绘制(Android设置surface模式硬解模式不支持);

  • 解码前视频数据回调\]支持H.264/H.265数据回调;

  • 解码前音频数据回调\]支持AAC/PCMA/PCMU数据回调;

  • 实时录像\]支持实时录制MP4,设置录像路径、单个录像文件大小等。

相关推荐
Tiny_React1 天前
使用 Claude Code Skills 模拟的视频生成流程
人工智能·音视频开发·vibecoding
aqi002 天前
FFmpeg开发笔记(九十八)基于FFmpeg的跨平台图形用户界面LosslessCut
android·ffmpeg·kotlin·音视频·直播·流媒体
aqi003 天前
FFmpeg开发笔记(九十七)国产的开源视频剪辑工具AndroidVideoEditor
android·ffmpeg·音视频·直播·流媒体
aqi004 天前
FFmpeg开发笔记(一百)国产的Android开源视频压缩工具VideoSlimmer
android·ffmpeg·音视频·直播·流媒体
haibindev6 天前
【终极踩坑指南】Windows 10上MsQuic证书加载失败?坑不在证书,而在Schannel!
直播·http3·quic·流媒体
飞鸟真人9 天前
livekit搭建与使用浏览器测试
直播·视频会议·视频聊天·livekit
hk112410 天前
【音视频/边缘计算】2025年度H.265/HEVC高并发解码与画质修复(Super-Resolution)基准测试报告(含沙丘/失控玩家核心样本)
ffmpeg·边缘计算·音视频开发·h.265·测试数据集
aqi0017 天前
FFmpeg开发笔记(九十五)国产的开源视频美颜工具VideoEditorForAndroid
android·ffmpeg·音视频·直播·流媒体
sno_guo18 天前
直播抠图技术100谈之17----相机帧率和直播帧率如何定?
直播·内容运营·抠图·直播运营·直播伴侣
李小轰_Rex20 天前
把手机变成听诊器!摄像头 30 秒隔空测心率 - 开箱即用
android·音视频开发