Kinect4AlphaRobot使用kinect制作简易的体感控制机器人(动作模仿)

项目环境

基于Kinect 2.0 与 Alpha 1s 阿尔法机器人的体感控制开发

项目说明

项目通过Kinect捕捉人体动作数据,通过蓝牙模块控制 Alpha Robot (优必选阿尔法机器人1S)

演示视频

使用kinect体感控制机器人

项目技术点

Todo List:

  • 蓝牙通信
  • 串口开发(项目可实现的基础)
  • Kinect获取到的骨骼节点三维坐标数据与Alpha 1S电机转动角度的转换运算
  • 机器人动作重心偏移解决方法
  • 解决Kinect排除多人数据捕捉干扰方法

项目硬件模块



开发环境搭建

  1. 安装Kinect开发环境 完成后插入Kinect设备看是否正常
  2. 安装.net framework 与 visual studio 开发环境
  3. 打开vs , 导入项目工程文件
  4. 按淘宝买来的蓝牙模块组装后,按附带的教程,测试蓝牙发射模块是否可行
  5. 去优必优官网下载蓝牙控制指令文档
    蓝牙控制指令文档
    用户使用说明书
  6. 确定可以通过PC发送指令给机器人,机器人能动
  7. 核实蓝牙模块插的USB口与代码里的一致
  8. 运行项目程序 (应该有动作了,祝你好运),也可以自己打包生成BIN文件 ,下次直接双击运行就可了,因为代码目录里的BIN文件是基于我的电脑环境的,所以在你的电脑可能会不行,USB口一致性的问题,也可以在VS里下载个打包插件,这样能生成EXE,也是可以的

开发软件环境

  • Kinect for Windows SDK 2.0(附带kinect browser与kinect studio)
  • 串口调试助手
  • Visual Studio 2017(本项目使用C#)

实现原理思路

利用Kinect获取人体骨骼关节点的三维空间坐标数据(x,y,z)

Kinect技术可追踪20个骨骼关节点,骨骼数据包含20个关节点的X,Y,Z坐标信息,我们利用Kinect SDK

里的BodyBase案例里的深度图像处理技术进行二次开发,取相对应的14个节点数值

(图片只画出左侧标注)

  • 头部(Head) --肩膀中心(ShoulderCenter)
  • 肩膀中心(ShoulderCenter) -- 脊柱中心(Spine)
  • 脊柱中心(Spine) -- 髋部中心(HipCenter)
  • 髋部中心(HipCenter) -- 左或右膝关节(KneeLeft or KneeRight)
  • 左膝关节KneeLeft(右膝关节KneeRight) -- 左踝关节leLeft (右踝关节AnkleRight)
  • 左踝关节AnkleLeft (右踝关节AnkleRight)- 左脚FootLeft (右脚FootRight)
  • 左手(HeadLeft) --左手腕(Wrist Left)
  • 左手腕(Wrist Left) -- 左胳膊肘(Elbow Left)
  • 左胳膊肘(Elbow Left) -- 左肩膀(Shoulder Left)
  • 左肩膀(Shoulder Left)--肩膀中心(Shoulder Center)
  • 肩膀中心(Shoulder Center)-右肩膀(Shoulder Right)
  • 右肩膀(Shoulder Right)- 右胳膊肘 (Elbow Right)
  • 右胳膊肘 (Elbow Right)- 右手腕(Wrist Right)
  • 右手腕(Wrist Right)- 右手 (Hand Right)

Kinect 人体感应示意图

面向感应器,X代表左右,Y代表上下,Z代表前后(距离在1.2~3.5m范围内,1.8米最适合) 蓝牙通信协议开发标准(可上优必选官网下载,看懂文档是开发者的基本功就不多说了)

要注意的是它是16进制,需要把组装好的命令字符串进行转换打包后,通过蓝牙模块发送 应用三角函数进行角度转换

面向感应器,三维坐标在扫描画面的左下角,以人体画面左边手臂为参考; 手从竖直立正抬至P状态为动作过程分析,r为与身体初始位置时的角度; 每一帧获取到的r值随运动改变,舵机也将即时改变角度;

体感控制示意图(面向设备)

设P状态下,取shoulder肩部点O(x0,y0,z0),elbow肘部点P(x,y,z),Z轴值保持不变;

对于肘到肩部shoulder所对应的机器人电机可忽略Z轴的影响,即通过这两点的X与Y值来求出r值。

当双手竖直向下时,Alpha 1S机器人有以下初始值:

  • 机器人的左手(即画面右则手臂) shoulder对应的机器人电机初始角度为 0 度,竖直向上时为180度;
  • 机器人的右手(即画面左则手臂) shoulder对应的机器人电机初始角度 180 度,竖直向上时为0度;
    tan值的 + 与 -- 区域正好可表达角度是大于90度还是小于90度,也可观察其递变规律。

转化为平面三角运算示意图为:

当手竖直向下时 电机角度 r= 0 ,当手竖直向上时,电机角度 r= 180; 则

将小数转换成实际角度

将含有角度值的命令字符串用16进制转换后通过蓝牙传给机器人,即可响应。

同样道理,当手向前水平合拢时,肩部关节点shoulder基本不变,通过X与Z轴求得手臂在肩部点前后转动的角度,方法与公式就不再详细说明。

PS:这是一个非常粗暴的通过公式计算来控制舵机的方法,纯属兴趣实验性质,硬件通信是他人实现。

相关推荐
Yz_fore10 小时前
地图美化方案-房型图
机器人
Yz_fore10 小时前
基于DWA的沿墙算法
机器人
aircrushin1 天前
从春晚看分布式实时协同算法与灵巧手工程实现
人工智能·机器人
ZPC82106 天前
docker 镜像备份
人工智能·算法·fpga开发·机器人
ZPC82106 天前
docker 使用GUI ROS2
人工智能·算法·fpga开发·机器人
2501_946205526 天前
晶圆机器人双臂怎么选型?适配2-12寸晶圆的末端效应器有哪些?
服务器·网络·机器人
xybDIY6 天前
Kiro Workshop - 使用 AI 代理聊天机器人构建电子商务网站
人工智能·机器人
宝贝儿好6 天前
【强化学习】第十章:连续动作空间强化学习:随机高斯策略、DPG算法
人工智能·python·深度学习·算法·机器人
大江东去浪淘尽千古风流人物6 天前
【SLAM】GenRobot / IO-AI / Scale / Appen 能力对比表(机器人数据与闭环视角)
人工智能·机器学习·机器人·大模型·概率论·端侧部署·巨身智能
梦想的旅途26 天前
企业微信API:外部群自动化推送实战指南
大数据·机器人·自动化·企业微信·rpa