RV1126 音频AI模块的详解

一.什么是音频AI模块

RV1126的AI模块指的是音频输入模块 ,它的作用是通过内置芯片读取麦克风等音频的模拟信号,然后把音频模拟信号转换成数字信号。在RV1126里面,音频AI模块是所有音频输入的入口。下面是AI模块和麦克风等音频输入模块的关系

  • AI 模块结构体的重要参数

下面是AI_CHN_ATTR_S 结构体的成员变量

pcAudioNode AUDIO音频节点,默认是default

enSampleFormat 采样格式,下面是RV1126的提供的采样格式,下面好多种采样格式,我们来分别讲解一下:

RK_SAMPLE_FMT_U8: 无符号整型8位采样格式,它是8BIT采样格式的一种,这里的U是unsigned的缩写

RK_SAMPLE_FMT_S16: 整型16位采样格式,它是16IT采样格式,S是signed的缩写

RK_SAMPLE_FMT_S32: 整型32位采样格式,它是32IT采样格式,S是signed的缩写

RK_SAMPLE_FMT_FLT: 利用float格式去采样,它是用浮点型格式进行采样。取值范围是-1.0, 1.0

RK_SAMPLE_FMT_U8P: 无符号整型8位采样平面格式,这里的****P 表示的是平面格式,平面格式指的是非交错模式 ,如:LLLLLLRRRRRRLLLLLLRRRRRRLLLLLLRRRRRRL

RK_SAMPLE_FMT_S16P: 整型16位采样平面格式,这里的P表示的是平面格式,平面格式指的是非交错模式,如:LLLLLLRRRRRRLLLLLLRRRRRRLLLLLLRRRRRRL

RK_SAMPLE_FMT_S32P: 整型32位采样平面格式,这里的P表示的是平面格式,平面格式指的是非交错模式,如:LLLLLLRRRRRRLLLLLLRRRRRRLLLLLLRRRRRRL R

RK_SAMPLE_FMT_FLTP: 浮点型采样平面格式,这里的P表示的是平面格式,平面格式指的是非交错模式,如:LLLLLLRRRRRRLLLLLLRRRRRRLLLLLLRRRRRRL

RK_SAMPLE_FMT_G711A: G711A是标准的ITU-T推荐的标准之一**,**采用8位精度进行采样,它主要运用在电话领域。A表示的是将一个13bit的PCM样本压缩成8bit样本

RK_SAMPLE_FMT_G711U: G711U是标准的ITU-T推荐的标准之一**,**采用8位精度进行采样,它主要运用在电话领域。U表示的是将一个14bit的PCM样本压缩成8bit样本。

2.3. u32Channels 音频通道数,音频默认通道数是****2

2.4. u32SampleRate 音频采样率,在RV1126里面常用的采样率是16000 44100 48000 三种。目前在这个开发中,我们用的是****48000,因为48000 采样率的音频效果最好

2.5. u32NbSample 每一帧的采样个数,这个参数要和对应的音频编码格式来设置。AAC音频编码格式对应的采样个数是1024,MP3音频编码格式对应的采样个数是1152,其实还有很多。

2.6. enAiLayout 音频输入布局类型,它提供了三个成员变量选择:AI_LAYOUT_NORMALAI_LAYOUT_MIC_REF 、AI_LAYOUT_REF_MIC。 它默认是用的是AI_LAYOUT_NORMAL 类型,默认是AI_LAYOUT_NORMAL。

二.设置AI模块的API

3.1. RK_MPI_AI_SetChnAttr 的功能:

RK_MPI_AI_SetChnAttr功能主要是设置AI通道属性

第一个参数: AI模块的通道号ID,取值范围是0, AI_MAX_CHN_NUM

第二个参数: AI_CHN_ATTR_S结构体指针

3.2. RK_MPI_AI_EnableChn 的功能:

RK_MPI_AI_EnableChn功能主要是打开AI通道

第一个参数: AI模块的通道号ID,这里填的值和设置的通道号一致

3.3. RK_MPI_AI_StartStream 的功能:

RK_MPI_AI_StartStream功能主要是启动AI音频流

第一个参数: AI模块的通道号ID,这里填的值和设置的通道号一致

相关推荐
火山引擎开发者社区1 分钟前
没有长期记忆,Agent 谈何持续进化?一图看懂火山 Mem0:解锁 Agent 持续学习与进化之路
人工智能
冬奇Lab3 小时前
Workflow 系列(06):安全——跨步骤注入传播与四层防御
人工智能·工作流引擎
冬奇Lab3 小时前
每日一个开源项目(第149篇):RAG-Anything - 把图片、表格、公式当成一等公民的多模态 RAG 框架
人工智能·开源
米小虾4 小时前
AI Agent 安全实战指南:当智能体开始"不听话",开发者该如何应对?
人工智能·安全·agent
IT_陈寒5 小时前
Vite的热更新突然不香了,排查三小时差点砸键盘
前端·人工智能·后端
阿里云大数据AI技术7 小时前
构建高转化海外电商搜索:阿里云OpenSearch行业算法版的全链路智能优化策略实战
人工智能·搜索引擎
Awu12278 小时前
⚡从零开发 Agent CLI(五)实现一个可治理、可扩展的工具系统
前端·人工智能·claude
字节跳动视频云技术团队8 小时前
让 Agent 成为音视频工作台:AI MediaKit CLI + Skill 发布
人工智能·音视频开发
魏祖潇8 小时前
framework 整合实战——DDD/TDD/SDD 三件套在 framework 仓的真实落地
人工智能·后端