【AI大模型Agent探索】深入探索实践 Qwen-Agent 的 Function Calling

寻道码路2024-07-19 11:20

系列篇章💥

No. 文章
1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践
2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人
3 【Qwen2部署实战】探索Qwen2-7B：通过FastApi框架实现API的部署与调用
4 【Qwen2部署实战】Ollama上的Qwen2-7B：一键部署大型语言模型指南
5 【Qwen2部署实战】llama.cpp：一键部署高效运行Qwen2-7B模型
6 【Qwen2部署实战】部署高效AI模型：使用vLLM进行Qwen2-7B模型推理
7 【AI大模型Agent探索】Qwen-Agent：基于Qwen的LLM应用开发框架
8 【AI大模型Agent探索】深入探索实践 Qwen-Agent 的 Function Calling

目录

引言

在当今快速发展的人工智能领域，大型语言模型（LLMs）已经成为推动技术革新的关键力量。它们不仅在理解复杂语言结构、生成创造性内容、甚至在提供深入的决策支持方面展现出了前所未有的能力，而且正在不断地拓宽我们对机器智能的认识边界。

在这样的背景下，Qwen-Agent 的出现标志着一个重要的里程碑。它是一个创新的框架，专门设计用于开发基于大型语言模型的应用程序。Qwen-Agent 不仅仅局限于语言理解，它还通过整合功能调用（Function Calling）、代码解释、记忆能力等先进特性，使得开发者能够构建出真正智能、高度自适应的代理（Agents）。

本文将深入探讨 Qwen-Agent 的核心特性之一------功能调用（Function Calling）。这是一种允许 AI 模型直接与外部工具和API进行交互的能力，极大地扩展了 AI 模型的应用范围。通过实际的编码实践，我们将展示如何利用这一机制，将 AI 的决策能力和外部工具的功能性紧密结合，以实现更加丰富和高效的自动化服务。

1、概述

在人工智能的丰富领域中，Qwen-Agent 以其独特的架构和功能，为开发者提供了一个强大的工具集，用于构建高度智能化的助手。本章将重点介绍 Qwen-Agent 的核心特性之一------功能调用（Function Calling），这是实现智能代理与外部工具无缝集成的关键技术。

1.1 功能调用（Function Calling）的定义

功能调用是 Qwen-Agent 的一项基础能力，它允许 AI 模型在处理任务时主动调用预定义的函数或工具。这些工具可以是内部定义的函数，也可以是外部的 API 服务，它们为 AI 提供了执行特定操作的能力，从而扩展了 AI 的应用范围。

1.2 功能调用的重要性

  • 扩展性：通过功能调用，AI 模型不再局限于其内置的能力，能够执行更多样化的任务。
  • 灵活性：开发者可以根据需求轻松集成新的工具或服务，使 AI 代理能够适应不断变化的应用场景。
  • 实用性：功能调用使得 AI 能够直接与现实世界的数据和操作交互，提高了 AI 解决实际问题的能力。

1.3 功能调用的工作流程

  1. 定义工具：开发者定义工具函数，包括其名称、功能描述、所需参数等。
  2. 注册工具：将定义好的工具函数注册到 Qwen-Agent 中，使其可供 AI 模型调用。
  3. 模型调用：在处理用户请求时，AI 模型根据需要调用相应的工具函数。
  4. 执行与反馈：工具函数执行操作，并将结果反馈给 AI 模型，模型据此继续对话或任务处理。

1.4 功能调用的实际应用

  • 数据检索：AI 模型可以调用工具函数来检索数据库中的数据，为用户提供最新信息。
  • 自动化操作：通过调用自动化脚本或程序，AI 模型可以执行文件处理、数据录入等任务。
  • 智能决策支持：集成分析工具，AI 模型可以为用户提供基于数据的决策建议。

1.5 开发者如何利用功能调用

开发者可以利用 Qwen-Agent 的功能调用机制，开发出能够解决特定问题的智能代理。无论是通过编写自定义的函数，还是通过集成现有的 API 服务，功能调用都为开发者提供了极大的自由度和创新空间。

2、安装部署实操

Qwen-Agent 的安装部署过程简单明了，可以通过以下步骤快速开始：

bash 复制代码 
pip install -U qwen-agent

从 GitHub 安装最新版本：

bash 复制代码 
   git clone https://github.com/QwenLM/Qwen-Agent.git
   cd Qwen-Agent
   pip install -e ./

安装可选依赖（如果需要内置 GUI 支持）：

bash 复制代码 
 pip install -U qwen-agent[gui]
# 或，从源代码安装最新版本: pip install -e ./[gui]

3、本地模型部署

先采用vLLM进行Qwen2-7B模型部署，启用OpenAI风格的API接口，

下载Qwen2-7B-Instruct 到本地/root/autodl-tmp/qwen目录，执行下面命令，启动OpenAI风格的API接口

bash 复制代码 
python -m vllm.entrypoints.openai.api_server --model /root/autodl-tmp/qwen/Qwen2-7B-Instruct  --served-model-name Qwen2-7B-Instruct --max-model-len=2048

具体参考文章：《部署高效AI模型：使用vLLM进行Qwen2-7B模型推理》

4、Function Calling开发实践

接下来我们通过代码来体验Qwen-Agent的Function Calling功能。以获取天气信息为例，我们不仅调用了 get_current_weather 函数，还将结果反馈给 AI 模型，使其能够提供更准确的回答。这个过程展示了 Function Calling 如何使 AI 模型与外部数据源交互，增强了对话的实用性和准确性。

4.1导入依赖库

首先，我们需要导入 Python 标准库中的一些模块，以及 Qwen-Agent 框架中的关键组件。

python 复制代码 
# 导入Python标准库中的json模块，用于处理JSON数据
import json
# 导入Python标准库中的os模块，用于操作系统功能，如环境变量
import os

# 从qwen_agent.llm模块导入get_chat_model函数
from qwen_agent.llm import get_chat_model

4.2模拟一个外部工具函数

python 复制代码 
# 示例虚拟函数，硬编码为返回相同的天气
# 在生产环境中，这可以是您的后端API或外部API
def get_current_weather(location, unit='华氏度'):
    """获取给定地点的当前天气"""
    if '东京' in location.lower():
        return json.dumps({'location': '东京', 'temperature': '10', 'unit': '摄氏度'})
    elif '旧金山' in location.lower():
        return json.dumps({'location': '旧金山', 'temperature': '72', 'unit': '华氏度'})
    elif '巴黎' in location.lower():
        return json.dumps({'location': '巴黎', 'temperature': '22', 'unit': '摄氏度'})
    else:
        return json.dumps({'location': location, 'temperature': '未知'})

4.3测试Qwen2-7B-Instruct 的OpenAI风格的API

测试本地Qwen2-7B模型的OpenAI风格的API接口服务是否正常

python 复制代码 
from openai import OpenAI
openai_api_key = "sk-xxx" # 随便填写，只是为了通过接口参数校验
openai_api_base = "http://localhost:8000/v1"

client = OpenAI(
    api_key=openai_api_key,
    base_url=openai_api_base,
)

chat_outputs = client.chat.completions.create(
    model="Qwen2-7B-Instruct",
    messages=[
        {"role": "system", "content": "你是一个智能AI助手"},
        {"role": "user", "content": "你好"},
    ]
)
print(chat_outputs)

输出：

python 复制代码 
ChatCompletion(id='cmpl-2e9883ed58154fa5bc6ff63886aea585', choices=[Choice(finish_reason='stop', index=0, logprobs=None, message=ChatCompletionMessage(content='你好！很高兴能帮助你。有什么问题或需要我提供的信息吗？', role='assistant', function_call=None, tool_calls=None), stop_reason=None)], created=1719843868, model='Qwen2-7B-Instruct', object='chat.completion', system_fingerprint=None, usage=CompletionUsage(completion_tokens=17, prompt_tokens=19, total_tokens=36))

4.4定义LLM

使用本地的模型定义LLM

python 复制代码 
llm = get_chat_model({
     'model': 'Qwen2-7B-Instruct',
     'model_server': 'http://localhost:8000/v1',  # api_base
     'api_key': 'EMPTY',
    # 使用 DashScope 提供的模型服务：
    #'model': 'qwen1.5-14b-chat',
    #'model_server': 'dashscope',
    #'api_key': os.getenv('DASHSCOPE_API_KEY'),

    # 使用 DashScope 提供的与 OpenAI 兼容的模型服务：
    # 'model': 'qwen1.5-14b-chat',
    # 'model_server': 'https://dashscope.aliyuncs.com/compatible-mode/v1', 
    # 'api_key': os.getenv('DASHSCOPE_API_KEY'),

    # 使用 Together.AI 提供的模型服务：
    # 'model': 'Qwen/Qwen1.5-14B-Chat',
    # 'model_server': 'https://api.together.xyz',   # api_base
    # 'api_key': os.getenv('TOGETHER_API_KEY'),
})

4.5定义工具函数信息

python 复制代码 
functions = [{
        'name': 'get_current_weather',
        'description': '获取给定位置的当前天气',
        'parameters': {
            'type': 'object',
            'properties': {
                'location': {
                    'type': 'string',
                    'description': '城市和州，例如加利福尼亚州旧金东京山',
                },
                'unit': {
                    'type': 'string',
                    'enum': ['摄氏度', '华氏度']
                },
            },
            'required': ['location'],
        },
    }]

4.6定义messages消息

python 复制代码 
messages = [{'role': 'user', 'content': "东京的天气怎么样？"}]

4.7第一次请求大模型（查找工具函数）

python 复制代码 
print('# 助手回复 1：')
responses = []
for responses  in llm.chat(
        messages=messages,
        functions=functions,
        stream=True,#True
        # 注意：extra_generate_cfg 是可选的
        # extra_generate_cfg=dict(
        #     # 注意：如果 function_choice='auto'，让模型决定是否调用函数
        #     # function_choice='auto',  # 如果没有设置 function_choice，默认是 'auto'
        #     # 注意：设置 function_choice='get_current_weather' 强制模型调用此函数
        #     function_choice='get_current_weather',
        # ),
):
    print(responses)

输出：

4.8将响应内容放入消息中备用

python 复制代码 
messages.extend(responses)  # 用助手的回复扩展对话

查看messages

python 复制代码 
messages

输出：

4.9第二次大模型调用

1、取出工具函数进行手工调用 2、将响应结果给到大模型进行整理增强

python 复制代码 
# 第 2 步：检查模型是否想要调用一个函数
last_response = messages[-1]
# 检查变量 last_response 是否包含键 function_call 并且其值不为 None
if last_response.get('function_call', None):

    # 第 3 步：调用函数
    # 注意：JSON 响应可能不是有效的；确保要处理错误
    available_functions = {
        'get_current_weather': get_current_weather,
    }  # 此示例中只有一个函数，但您可以有多个
    function_name = last_response['function_call']['name']
    function_to_call = available_functions[function_name]
    function_args = json.loads(last_response['function_call']['arguments'])
    function_response = function_to_call(
        location=function_args.get('location'),
        unit=function_args.get('unit'),
    )
    print('# 函数响应:')
    print(function_response)

    # 第 4 步：将每个函数调用和函数响应的信息发送给模型
    messages.append({
        'role': 'function',
        'name': function_name,
        'content': function_response,
    })  # 用函数响应扩展对话

    print('# 助手回复 2:')
    for response in llm.chat(
            messages=messages,
            functions=functions,
            stream=True,#True
    ):  # 在模型能够看到函数响应的情况下获取模型的新回复
        print(response)

输出：

python 复制代码 
response[-1]

输出：

python 复制代码 
{'role': 'assistant', 'content': '东京的当前气温是10摄氏度。'}

结语

本文的探索之旅让我们深刻理解了 Qwen-Agent 框架及其功能调用（Function Calling）特性的重要性和潜力。Qwen-Agent 以其卓越的能力，将 AI 的深度学习能力与外部工具的实用操作无缝融合，为智能自动化服务的发展开辟了新天地。在这个过程中，我们见证了如何通过简单的代码实现复杂的功能，如何让 AI 模型更加智能和自适应。

面向未来，我们有理由相信，Qwen-Agent 将在 AI 技术的广阔天地中继续绽放光彩，带来更多激动人心的创新和突破。在安全和伦理的框架内，Qwen-Agent 的发展既快速又负责任。希望大家一起加入AI的旅程，一起探索、创造，并迎接智能自动化服务的新时代。随着本文的结束，我们的探索并未停止，而是开启了新的篇章。

项目地址

Qwen-Agent GitHub

🎯🔖更多专栏系列文章：AI大模型提示工程完全指南、AI大模型探索之路（零基础入门）、AI大模型预训练微调进阶、AI大模型开源精选实践、AI大模型RAG应用探索实践🔥🔥🔥 其他专栏可以查看博客主页📑

😎 作者介绍 ：我是寻道AI小兵，资深程序老猿，从业10年+、互联网系统架构师，目前专注于AIGC的探索。

📖 技术交流 ：欢迎关注【小兵的AI视界 】公众号或扫描下方👇二维码，加入技术交流群，开启编程探索之旅。

💘精心准备📚500 本编程经典书籍、💎AI专业教程，以及高效AI工具。等你加入，与我们一同成长，共铸辉煌未来。
如果文章内容对您有所触动，别忘了点赞、⭐关注，收藏**！加入我，让我们携手同行AI的探索之旅，一起开启智能时代的大门！**

相关推荐
四口鲸鱼爱吃盐15 分钟前
Pytorch | 从零构建MobileNet对CIFAR10进行分类
人工智能·pytorch·分类
苏言の狗16 分钟前
Pytorch中关于Tensor的操作
人工智能·pytorch·python·深度学习·机器学习
bastgia1 小时前
Tokenformer: 下一代Transformer架构
人工智能·机器学习·llm
菜狗woc1 小时前
opencv-python的简单练习
人工智能·python·opencv
15年网络推广青哥1 小时前
国际抖音TikTok矩阵运营的关键要素有哪些？
大数据·人工智能·矩阵
weixin_387545642 小时前
探索 AnythingLLM：借助开源 AI 打造私有化智能知识库
人工智能
engchina2 小时前
如何在 Python 中忽略烦人的警告？
开发语言·人工智能·python
paixiaoxin3 小时前
CV-OCR经典论文解读|An Empirical Study of Scaling Law for OCR/OCR 缩放定律的实证研究
人工智能·深度学习·机器学习·生成对抗网络·计算机视觉·ocr·.net
OpenCSG3 小时前
CSGHub开源版本v1.2.0更新
人工智能
weixin_515202493 小时前
第R3周：RNN-心脏病预测
人工智能·rnn·深度学习
热门推荐
01〔AI 绘画〕Stable Diffusion 之 解决绘制多人或面部很小的人物时面部崩坏问题 篇02YOLOv8训练好模型后，追加轮数继续训练、或者提前终止训练，缩减训练轮数03玄机平台应急响应—webshell查杀04机器人编程怎么入门？05HCIA-datacom数通题库和录播视频资料06Docker 夺命连环 15 问07SQL 主从数据库实时备份08校验 GPT-4 真实性的三个经典问题：快速区分 GPT-3.5 与 GPT-4，并提供免费测试网站09(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明10VSCode插件 —— Cody AI （免费AI助手！）