Qwen-7B-Chat 通过 Agent 获取外部天气

前言

本文使用 Qwen-7B-Chat 大模型,通过 Agent 调用自定义工具 weathercheck 来获取实时天气状况,还能给出出行穿戴的建议哦。

搭建虚拟环境并且安装 11.8 cuda

之前的文章中都介绍了如何完成这一步,请看这里juejin.cn/post/729892...

拉取 chatchat 项目

按照之前的文章搭建 chatchat 项目环境 juejin.cn/post/729892...

拉取 Qwen-7B-Chat 模型

使用下面命令从 huggingface 上将模型下载到本地,可能需要梯子请自行解决,或者使用迅雷某些时候也可以下载:

bash 复制代码
git clone https://huggingface.co/Qwen/Qwen-7B-Chat

拉取 m3e 词向量模型

使用下面的命令从 huggingface 上将模型下载到本地,可能需要梯子请自行解决,或者使用迅雷某些时候也可以下载:

bash 复制代码
git clone https://huggingface.co/moka-ai/m3e-base

修改配置和关键代码

将使用到的大模型绝对路径和词向量模型的绝对路径进行配置即可,因为这里要使用 agent 对话模型,所以将强烈建议设置 TEMPERATURE 为接近 0 或者 0 。

less 复制代码
MODEL_PATH['embed_model']['m3e-base'] 改为自己存放 m3e 的绝对路径 'D:\\m3e-base' 
MODEL_PATH['llm_model']['chatglm2-6b'] 改为自己存放 chatglm2-6b 的绝对路径 'D:\\Qwen-7B-Chat' 
TEMPERATURE = 0.1

注册和风天气的账号

这里需要使用和风天气的 API ,所以到 dev.qweather.com/docs/start/ 进行注册获取 API 所需要的 KEY ,注册账号很简单,进入控制台创建新项目,注意要选择免费订阅,这样才能免费使用 API 接口。

然后进入项目即可看到 API 所需要的 KEY 。

在使用 API 的时候,比如下方使用查询天气的 API ,我们是免费订阅的账户,所以要将 API Host更改为devapi.qweather.com

修改关键代码

将 Langchain-Chatchat-torch2\server\agent\tools\weather.py 中的 _PROMPT_TEMPLATE 提示词模板变量改为如下:

ini 复制代码
_PROMPT_TEMPLATE = """
用户会提出一个关于天气的问题,你的目标是拆分出用户问题中的城市, 并按照我提供的工具回答。
例如 用户提出的问题是: 上海天气情况?
则 提取的市和区是: 上海
请注意以下内容:
1. 如果你没有找到城市的内容,则一定要使用 None 替代,否则程序无法运行
2. 如果用户没有指定市 则直接返回缺少信息

问题: ${{用户的问题}}

你的回答格式应该按照下面的内容,请注意,格式内的```text 等标记都必须输出,这是我用来提取答案的标记。
```text
${{城市}}
```
... weathercheck(市)...
```output
${{提取后的答案}}
```
答案: ${{答案}}



这是一个例子:
问题: 上海未来天气情况?


```text上海```
...weathercheck(上海)...

```output
预报时间: 1小时后
温度: 6°C
天气: 晴
预报时间: 24小时后
温度: 7°C
天气: 晴

Answer: 现在天气晴,温度 6 度, 未来 24 小时天气晴,温度 7 度。

现在,这是我的问题:

问题: {question}
"""

然后将获取天气情况的工具源代码都去掉,换成以下我写的代码,首先是要下载 github.com/qwd/Locatio... 文件,主要是为了可以通过城市名字获取所对应的 ID ,因为获取天气情况的参数是城市 ID 。

python 复制代码
def getLocationId(city):
    d = collections.defaultdict(str)
    try:
        df = pd.read_csv("D:\Langchain-Chatchat-torch2\server\agent\tools\China-City-List-latest.csv", encoding='utf-8')
    except Exception as e:
        print(e)
    for i, row in df.iterrows():
        d[row['Location_Name_ZH']] = row['Location_ID']
    return d[city] if city in d else ''

然后调用 API 来获取城市未来 24 个小时的天气情况。

kotlin 复制代码
def get_weather(location):
    key = "你的 KEY"
    id = getLocationId(location)
    if not id:
        return "没有这个城市"
    base_url = 'https://devapi.qweather.com/v7/weather/24h?'
    params = {'location': id, 'key': key, 'lang': 'zh'}
    response = requests.get(base_url, params=params)
    data = response.json()
    if data["code"] != "200":
        return "没有这个城市的天气情况"
    return get_weather_info(data)

将获取的天气情况进行抽取,因为会返回每个小时的天气情况,所以这里只获取当前时刻的温度和天气描述文本,以及与当前距离未来第 24h 的温度和天气描述文本,组织成字符串进行返回。

python 复制代码
def get_weather_info(info):
    if info["code"]!="200":
        return "没有这个城市的天气情况"
    result = f'现在天气{info["hourly"][0]["text"]},温度 {info["hourly"][0]["temp"]} 度, 未来 24 小时天气{info["hourly"][-1]["text"]},温度 {info["hourly"][-1]["temp"]} 度。'
    return result


def weather(query):
    key = KEY
    if key == "":
        return "请先在代码中填入和风天气API Key"
    try:
        weather_data = get_weather(query)
        return weather_data  + ",并根据天气的不同,给出贴心的开车出行建议,或者行人出行穿戴建议\n"
    except KeyError:
        return "输入的地区不存在,无法提供天气预报"

启动项目进行对话

启动项目后,设置好如下左侧的参数,然后进行对话训话,发现我们的 agent 对话时候可以调用天气的工具进行外部天气的获取,不仅可以看到天气情况,还能给出贴心的出行穿戴建议(虽然有的建议很扯淡),折叠框中间还能看到中间的思考过程,到此大功告成!。

css 复制代码
python.exe .\startup.py -a

参考

相关推荐
努力毕业的小土博^_^2 分钟前
【深度学习|学习笔记】 Generalized additive model广义可加模型(GAM)详解,附代码
人工智能·笔记·深度学习·神经网络·学习
天上路人32 分钟前
采用AI神经网络降噪算法的语言降噪消回音处理芯片NR2049-P
深度学习·神经网络·算法·硬件架构·音视频·实时音视频·可用性测试
小小鱼儿小小林41 分钟前
用AI制作黑神话悟空质感教程,3D西游记裸眼效果,西游人物跳出书本
人工智能·3d·ai画图
浪淘沙jkp42 分钟前
AI大模型学习二十、利用Dify+deepseekR1 使用知识库搭建初中英语学习智能客服机器人
人工智能·llm·embedding·agent·知识库·dify·deepseek
AndrewHZ3 小时前
【图像处理基石】什么是油画感?
图像处理·人工智能·算法·图像压缩·视频处理·超分辨率·去噪算法
Robot2514 小时前
「华为」人形机器人赛道投资首秀!
大数据·人工智能·科技·microsoft·华为·机器人
J先生x4 小时前
【IP101】图像处理进阶:从直方图均衡化到伽马变换,全面掌握图像增强技术
图像处理·人工智能·学习·算法·计算机视觉
Narutolxy6 小时前
大模型数据分析破局之路20250512
人工智能·chatgpt·数据分析
浊酒南街6 小时前
TensorFlow中数据集的创建
人工智能·tensorflow
2301_787552878 小时前
console-chat-gpt开源程序是用于 AI Chat API 的 Python CLI
人工智能·python·gpt·开源·自动化