Linux开发板使用AI-通义千问

一、简介

开发板如何使用AI大模型呢?比如说通义千问?

第一步,开发板需要联网,可以使用网线,也可以使用无限网卡(开发板使用网卡可以参考我上篇文章:Linux开发板使用PCIE网卡AX210-CSDN博客)。

第二步,是在线访问云端的大模型,通义千问是阿里的大模型,已经部署到阿里云,这让我们用起来还是很方便的,如果是测试使用,申请一个KEY就可以使用了。

二、寻求帮助

具体应用如何做呢?我是一点不想费脑子了,无脑的我,于是问问了通义千问这个大模型,"我如何在开发板部署通义千问AI大模型",得到如下答案:

由于通义千问是阿里云提供的 云端大模型服务,你需要通过 DashScope API 发送 HTTPS 请求。以下是具体操作步骤:

第一步:获取 DashScope API Key

访问 DashScope 控制台

登录阿里云账号

点击右上角 API Key 管理

创建一个新 Key(如 sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx)

记下这个 Key(后面要用)

💡 首次使用需开通服务(免费额度通常够用)。

第二步:在开发板上安装 curl(如果尚未安装)

你当前的 Yocto 系统可能没有 curl。检查:

Bash

编辑

which curl

如果没有,请在构建 Yocto 镜像时添加:

Conf

编辑

在 local.conf 中

IMAGE_INSTALL:append = " curl ca-certificates"

然后重新构建并烧写镜像。

⚠️ 如果你无法重新构建系统,但已联网,可尝试手动下载静态编译的 curl(不推荐,复杂)。

更现实的做法:确保 Yocto 镜像包含 curl ------ 这是最简单可靠的方案。

第三步:用 curl 调用 Qwen(通义千问)

假设你已安装 curl 和 ca-certificates,执行以下命令:

Bash

编辑

替换 YOUR_API_KEY 为你的实际 Key

API_KEY="sk-你的实际API密钥"

curl https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation \

-X POST \

-H "Authorization: Bearer $API_KEY" \

-H "Content-Type: application/json" \

-d '{

"model": "qwen-max",

"input": {

"messages": [

{"role": "user", "content": "你好,通义千问!请告诉我今天的日期。"}

]

}

}'

🔍 示例输出(成功时):

Json

编辑

{

"output": {

"text": "今天是2025年12月29日,星期一。",

"finish_reason": "stop"

},

"usage": { ... }

}

这个答案应该说是很完美了!接下来我在开发板上逐步去实现。

三、逐步去做

1.申请KEY,通过以下网址。

(个人测试还是没问题,如果是公司或者业务使用,感觉收费是跑不掉的)

https://bailian.console.aliyun.com/?tab=model#/api-key

2.开发板使能curl功能。

果然,通义千问预判了我的问题,开发板没有curl功能。

在Yocto添加了以下命令,编译一个curl的二进制文件,放到根文件系统中:usr/bin

在 local.conf 中

IMAGE_INSTALL:append = " curl ca-certificates"

fsl-auto-yocto-bsp/build_s32g274ardb2/tmp/deploy/images/s32g274ardb2/rootfs_s32g274ardb2$ find -name curl -type f //编译后在根文件系统中可以发现curl

./usr/bin/curl

复制curl可执行文件到开发板的/usr/bin目录下。

root@s32g274ardb2:~# which curl //已经发现目标,指示curl可以使用

/usr/bin/curl

四、开发板在线应用通义千问

root@s32g274ardb2:~/AX210# API_KEY="sk-4b3ec566xxxxxxxxxxx"

root@s32g274ardb2:~/AX210 # curl https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation \

> -X POST \

> -H "Authorization: Bearer $API_KEY" \

> -H "Content-Type: application/json" \

> -d '{

> "model": "qwen-max",

> "input": {

> "messages": [

> {"role": "user", "content": "你好,通义千问!请告诉我谁是世界上最美的人。"}

> ]

> }

> }'
{"output":{"finish_reason":"stop","text":"你好!关于谁是世界上最美的人,这是一个主观的问题,每个人对于美的定义和标准都不同。美不仅仅体现在外貌上,还包括内在的品质和个性。所以,无法给出一个确切的答案。每个人都有自己独特的美丽之处,重要的是发现和欣赏自己的美丽。"},"usage":{"input_tokens":23,"output_tokens":58,"prompt_tokens_details":{"cached_tokens":0},"total_tokens":81},"request_id":"38b5597c-041d-4d72-b1ea-5d73372aaf63"}

root@s32g274ardb2:~/AX210#

成功输出想要的结果!!!

注意:开发板的时间可能需要调整,不然会有一些问题,开发板的时间要晚于申请KEY的时间。

root@s32g274ardb2:~/AX210# date

Thu Apr 28 23:28:32 UTC 2022

root@s32g274ardb2:~/AX210# date 122915402025

Mon Dec 29 15:40:00 UTC 2025

root@s32g274ardb2:~/AX210# date

Mon Dec 29 15:40:04 UTC 2025

希望这篇文章大家能够感兴趣!!!!!!

完结,撒花!!!!!!✿✿ヽ(°▽°)ノ✿!!!!!!

相关推荐
Xの哲學2 小时前
Linux IPC机制深度剖析:从设计哲学到内核实现
linux·服务器·网络·算法·边缘计算
lihui_cbdd2 小时前
[故障排查] NFS 存储集群卡顿的完整排查记录:谁在深夜疯狂读写?
linux·运维
掘根2 小时前
【消息队列项目】客户端搭建与测试
运维·服务器·中间件
ONE_SIX_MIX2 小时前
debian 13 安装 nvidia-driver 后,登录后黑屏,只能看到左上角光标 或 一个鼠标 的问题解决
运维·debian
虹科数字化与AR2 小时前
安宝特方案丨AR电力·变电篇:筑牢变电站安全运维
运维·安全·ar
代码游侠2 小时前
应用——Linux Socket编程
运维·服务器·开发语言·笔记·网络协议·学习
张火火isgudi2 小时前
VMware Debian 挂载 Windows 文件夹至 Debian 目录
linux·运维·windows·debian
石榴花上2 小时前
银河麒麟上的9090端口被占用问题处理
linux
神算大模型APi--天枢6462 小时前
2025 国产算力破局后,大模型训练数据集如何实现 “合规采集 + 高效清洗”?
运维·服务器·人工智能·架构·硬件架构