分享一个在linux中运行通义千问的方法

分享一个在linux中和通义千问交互的方法

效果展示:

整体步骤

    • 分享一个在linux中和通义千问交互的方法
      • 效果展示:
      • 一、在阿里云appflow控制台创建连接流
          • 1、通过以下地址,在灵积平台创建个API-KEY,用于通义千问的连接凭证
          • 2、点击连接流-创建连接流
          • 3、第一步选择webhook
          • 4.第二步选择通义千问
      • 二、测试appflow是否可用
      • 三、linux使用shell脚本调用webhook地址,进行交互
          • 6.执行脚本进行测试
          • 7.注意事项

一、在阿里云appflow控制台创建连接流

1、通过以下地址,在灵积平台创建个API-KEY,用于通义千问的连接凭证

https://help.aliyun.com/zh/dashscope/opening-service?spm=5176.28536352.0.0.4bc24f908L8HvC

复制出API-KEY等下要用到

2、点击连接流-创建连接流
3、第一步选择webhook


4.第二步选择通义千问



二、测试appflow是否可用

点击运行一次,输入

{"prompt":"你是谁?"}

会看到运行成功

三、linux使用shell脚本调用webhook地址,进行交互

此脚本在centos7系统中测试通过

powershell 复制代码
#!/bin/bash

WEBHOOK_URL="webhook地址?sync=true"

while true; do
    # 提示用户输入
    echo -n "你: "
    read USER_INPUT

    # 检查是否退出
    if [[ "$USER_INPUT" == "exit" ]]; then
        echo "退出交互。"
        break
    fi

    # 发送POST请求到Webhook URL
    response=$(curl -s -X POST -H 'Content-Type: application/json' --data "{\"prompt\":\"$USER_INPUT\"}" "$WEBHOOK_URL")

    # 解析JSON响应,提取回复内容,这里简化处理,实际情况可能需要更复杂的错误处理和数据解析
    reply=$(echo "$response" | jq -r '.data.outPut.Node2.output.text') # 注意:需要安装jq工具来解析json

    # 检查回复是否存在
    if [ -z "$reply" ]; then
        echo "未收到回复,请稍后再试。"
    else
        # 输出通义千问的回复
        echo "通义千问: $reply"
    fi
done

需要修改脚本中的webhook地址为你再appflow上创建的地址,在这个位置:

6.执行脚本进行测试

基本问答和命令咨询测试:

上下文功能测试:

7.注意事项

API-KEY接口凭证默认30天免费,并且限制一定的调用次数,如果长期或者大量使用,会产生费用,请知悉并且保管好你的API-KEY,以免被窃取产生费用

特别感谢:感谢大佬"古神"的技术支撑

相关推荐
Easy_Package16 分钟前
Linux中的进程
linux·服务器·网络
GodKK老神灭27 分钟前
Unbuntu 命令
linux
magic 2451 小时前
第6章:文件权限
linux·运维·服务器
c6lala1 小时前
数据结构day3
linux·运维·服务器
武子康2 小时前
大语言模型 11 - 从0开始训练GPT 0.25B参数量 MiniMind2 准备数据与训练模型 DPO直接偏好优化
人工智能·gpt·ai·语言模型·自然语言处理
wjy6_2 小时前
Rocky Linux 9.5 基于kubeadm部署k8s
linux·运维·kubernetes
應呈2 小时前
FreeRTOS的学习记录(任务创建,任务挂起)
java·linux·学习
落笔映浮华丶2 小时前
Linux篇 第2章Linux基础指令
linux
持之以恒的天秤4 小时前
线程同步学习
linux·学习
武子康6 小时前
大语言模型 10 - 从0开始训练GPT 0.25B参数量 补充知识之模型架构 MoE、ReLU、FFN、MixFFN
大数据·人工智能·gpt·ai·语言模型·自然语言处理