ROS2语音&ai与控制——黑马程序员ROS2课程上课笔记(6)

声音数字化处理(ADC原理)

音频录制

  • ai提示词
    1、帮我创建一个python脚本,取名01_audio_record,要求采用pyaudio进行录音,采用的录音频率为16k,录制好的内容存储到output.wav文件。
    2、帮我创建一个脚本02_record_ctrl,要求参考 d:\user\86183\Desktop\code\ros2-code\audiocode\01_audio_record.py 实现,但是要求当输入R时开始录音,输入S时停止录音并且保存文件

Whisper语音识别

  • 在线:阿里 通义听悟

  • 离线:OpenAI Whisper

  • ai提示词

    帮我创建一个脚本03_whisper_asr,要求采用whisper模型进行output.wav的识别,将语音文件转换成文本输出

TTS语音合成技术

离线 Pyttsx3文本转语音
  • ai提示词
    帮我创建一个脚本04_pyttsx3_demo,要求采用pyttsx3进行文本转语音操作
在线 Edge-TTS
  • ai提示词
    帮我创建一个脚本06_edge_tts_demo,要求采用edge tts库进行文本转语音操作

大语言模型

对话全流程实现
  • ai提示词
    帮我创建一个脚本,要求参考 d:\user\86183\Desktop\code\ros2-code\audiocode\02_record_ctrl.py 来录制声音,当录制完成后,通过whisper转换为文本,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\03_whisper_asr.py ,通过文本作为提示词交由大语言模型进行回答,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\08_deepseek_api 的实现,大语言模型回答完成后的文本,可以通过语音进行播报出来,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\06_edge_tts_demo.py 进行播报

MCP服务

MCP server和client
  • ai提示词
    1、帮我创建一个脚本,要求实现MCP的Server,提供add工具,首先要安装fastmcp,创建mcp实例,并提供运行流程,和交互页面

    fastmcp dev inspector --server-spec .\10_mcp_server.py --ui-port 8001

2、帮我创建一个脚本,实现MCP client ,去连接 d:\user\86183\Desktop\code\ros2-code\audiocode\10_mcp_server.py 中的add工具

大模型调用
  • ai提示词
    给我创建一个脚本,用户通过语音输入发起指令,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\03_whisper_asr.py 语音转文本,还可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\01_audio_record.py 音频控制,接着将转出的文本交给deepseek,可以参考 d:\user\86183\Desktop\code\ros2-code\audiocode\08_deepseek_api.py ,但是不能由deepseek直接进行回答,要求deepseek通过mcpserver调用方式调用我的 d:\user\86183\Desktop\code\ros2-code\audiocode\12_mcp_server_fastmcp.py ,形成语音指令到大模型解析,到大模型调用本地MCPserver的功能流程
ROS集成MCPserver和Agent
  • ai提示词
    1、在 \home\wind\dev_ws\src 下创建一个AI_pkg,要求采用python语言开发,同时创建一个mcp_server_node,并且创建一个llm_agent_node
    2、要求 \home\wind\dev_ws\src\AI_pkg\AI_pkg\mcp_server_node.py 参考 \home\wind\dev_ws\src\AI_pkg\test\12_mcp_server_fastmcp.py 实现mcp当中的功能
    3、实现 \home\wind\dev_ws\src\AI_pkg\AI_pkg\llm_agent_node.py 节点功能,参考 \home\wind\dev_ws\src\AI_pkg\test\14_voice_mcp_agent.py 的内容进行实现
相关推荐
tedcloud1231 天前
UI-TARS-desktop部署教程:构建AI桌面自动化系统
服务器·前端·人工智能·ui·自动化·github
曦月逸霜1 天前
啥是RAG 它能干什么?
人工智能·python·机器学习
AI医影跨模态组学1 天前
Lancet Digit Health(IF=24.1)广东省人民医院刘再毅&南方医科大学南方医院梁莉等团队:基于可解释深度学习模型预测胶质瘤分子改变
人工智能·深度学习·论文·医学·医学影像·影像组学
应用市场1 天前
AI 编程助手三强争霸(2026 版):Claude、Gemini、GPT 各自擅长什么?
人工智能·gpt
AC赳赳老秦1 天前
供应链专员提效:OpenClaw自动跟踪物流信息、更新库存数据,异常自动提醒
java·大数据·服务器·数据库·人工智能·自动化·openclaw
脑极体1 天前
从Token消耗到DAA增长,AI价值标尺正在重构
人工智能·重构
csdn小瓯1 天前
LangGraph自适应工作流路由机制:从关键词匹配到智能决策的完整实现
人工智能·fastapi·langgraph
QYR-分析1 天前
高功率飞秒激光器行业发展现状、市场机遇及未来趋势分析
大数据·人工智能
智者知已应修善业1 天前
【51单片机89C51及74LS273、74LS244组成】2022-5-28
c++·经验分享·笔记·算法·51单片机
奋斗的小乌龟1 天前
langchain4j笔记-06
笔记