ROS2语音&ai与控制——黑马程序员ROS2课程上课笔记(6)

声音数字化处理(ADC原理)

音频录制

  • ai提示词
    1、帮我创建一个python脚本,取名01_audio_record,要求采用pyaudio进行录音,采用的录音频率为16k,录制好的内容存储到output.wav文件。
    2、帮我创建一个脚本02_record_ctrl,要求参考 d:\user\86183\Desktop\code\ros2-code\audiocode\01_audio_record.py 实现,但是要求当输入R时开始录音,输入S时停止录音并且保存文件

Whisper语音识别

  • 在线:阿里 通义听悟

  • 离线:OpenAI Whisper

  • ai提示词

    帮我创建一个脚本03_whisper_asr,要求采用whisper模型进行output.wav的识别,将语音文件转换成文本输出

TTS语音合成技术

离线 Pyttsx3文本转语音
  • ai提示词
    帮我创建一个脚本04_pyttsx3_demo,要求采用pyttsx3进行文本转语音操作
在线 Edge-TTS
  • ai提示词
    帮我创建一个脚本06_edge_tts_demo,要求采用edge tts库进行文本转语音操作

大语言模型

对话全流程实现
  • ai提示词
    帮我创建一个脚本,要求参考 d:\user\86183\Desktop\code\ros2-code\audiocode\02_record_ctrl.py 来录制声音,当录制完成后,通过whisper转换为文本,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\03_whisper_asr.py ,通过文本作为提示词交由大语言模型进行回答,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\08_deepseek_api 的实现,大语言模型回答完成后的文本,可以通过语音进行播报出来,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\06_edge_tts_demo.py 进行播报

MCP服务

MCP server和client
  • ai提示词
    1、帮我创建一个脚本,要求实现MCP的Server,提供add工具,首先要安装fastmcp,创建mcp实例,并提供运行流程,和交互页面

    fastmcp dev inspector --server-spec .\10_mcp_server.py --ui-port 8001

2、帮我创建一个脚本,实现MCP client ,去连接 d:\user\86183\Desktop\code\ros2-code\audiocode\10_mcp_server.py 中的add工具

大模型调用
  • ai提示词
    给我创建一个脚本,用户通过语音输入发起指令,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\03_whisper_asr.py 语音转文本,还可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\01_audio_record.py 音频控制,接着将转出的文本交给deepseek,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\08_deepseek_api.py ,但是不能由deepseek直接进行回答,要求deepseek通过mcpserver调用方式调用我的 d:\user\86183\Desktop\code\ros2-code\audiocode\12_mcp_server_fastmcp.py ,形成语音指令到大模型解析,到大模型调用本地MCPserver的功能流程
ROS集成MCPserver和Agent
  • ai提示词
    1、在 \home\wind\dev_ws\src 下创建一个AI_pkg,要求采用python语言开发,同时创建一个mcp_server_node,并且创建一个llm_agent_node
    2、要求 \home\wind\dev_ws\src\AI_pkg\AI_pkg\mcp_server_node.py 参考 \home\wind\dev_ws\src\AI_pkg\test\12_mcp_server_fastmcp.py 实现mcp当中的功能
    3、实现 \home\wind\dev_ws\src\AI_pkg\AI_pkg\llm_agent_node.py 节点功能,参考 \home\wind\dev_ws\src\AI_pkg\test\14_voice_mcp_agent.py 的内容进行实现
相关推荐
Elastic 中国社区官方博客5 小时前
搜索倍增器:推动收入、生产力和 AI 实现规模化
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
wjkjpcba5 小时前
机器人控制板PCBA怎么加工?从SMT贴片到BGA焊接解析机器人电子制造工艺
大数据·人工智能
青 春 记 忆6 小时前
Dify Docker Compose 通用无损升级指南:从备份、双版本预演到切换与回滚
运维·人工智能·python·docker·容器
GlueNa2SiO36 小时前
03-Flask模板引擎Jinja2详解
笔记·python·flask
小猪妈咪爱学法6 小时前
欧盟最新发布《AI数字综合法案(Digital Omnibus‑on‑AI,AI综合修订法案)
人工智能·网络安全
ZGIAI6 小时前
ZGI Workflow 变量池:接住节点输出
人工智能·架构
梵构广告6 小时前
提升品牌识别度有哪些方法?
人工智能
ZGIAI6 小时前
ZGI 记忆隔离:多人共用不串号
人工智能·架构
星栈独行7 小时前
决定 Agent 交付下限的「操作系统」:Harness 六层架构拆解
人工智能·架构
AKAMAI7 小时前
实时可观测性:Akamai Cloud Pulse 警报功能正式发布
人工智能·云计算