Qwen-7B-Chat 通过 Agent 获取外部天气

前言

本文使用 Qwen-7B-Chat 大模型,通过 Agent 调用自定义工具 weathercheck 来获取实时天气状况,还能给出出行穿戴的建议哦。

搭建虚拟环境并且安装 11.8 cuda

之前的文章中都介绍了如何完成这一步,请看这里juejin.cn/post/729892...

拉取 chatchat 项目

按照之前的文章搭建 chatchat 项目环境 juejin.cn/post/729892...

拉取 Qwen-7B-Chat 模型

使用下面命令从 huggingface 上将模型下载到本地,可能需要梯子请自行解决,或者使用迅雷某些时候也可以下载:

bash 复制代码
git clone https://huggingface.co/Qwen/Qwen-7B-Chat

拉取 m3e 词向量模型

使用下面的命令从 huggingface 上将模型下载到本地,可能需要梯子请自行解决,或者使用迅雷某些时候也可以下载:

bash 复制代码
git clone https://huggingface.co/moka-ai/m3e-base

修改配置和关键代码

将使用到的大模型绝对路径和词向量模型的绝对路径进行配置即可,因为这里要使用 agent 对话模型,所以将强烈建议设置 TEMPERATURE 为接近 0 或者 0 。

less 复制代码
MODEL_PATH['embed_model']['m3e-base'] 改为自己存放 m3e 的绝对路径 'D:\\m3e-base' 
MODEL_PATH['llm_model']['chatglm2-6b'] 改为自己存放 chatglm2-6b 的绝对路径 'D:\\Qwen-7B-Chat' 
TEMPERATURE = 0.1

注册和风天气的账号

这里需要使用和风天气的 API ,所以到 dev.qweather.com/docs/start/ 进行注册获取 API 所需要的 KEY ,注册账号很简单,进入控制台创建新项目,注意要选择免费订阅,这样才能免费使用 API 接口。

然后进入项目即可看到 API 所需要的 KEY 。

在使用 API 的时候,比如下方使用查询天气的 API ,我们是免费订阅的账户,所以要将 API Host更改为devapi.qweather.com

修改关键代码

将 Langchain-Chatchat-torch2\server\agent\tools\weather.py 中的 _PROMPT_TEMPLATE 提示词模板变量改为如下:

ini 复制代码
_PROMPT_TEMPLATE = """
用户会提出一个关于天气的问题,你的目标是拆分出用户问题中的城市, 并按照我提供的工具回答。
例如 用户提出的问题是: 上海天气情况?
则 提取的市和区是: 上海
请注意以下内容:
1. 如果你没有找到城市的内容,则一定要使用 None 替代,否则程序无法运行
2. 如果用户没有指定市 则直接返回缺少信息

问题: ${{用户的问题}}

你的回答格式应该按照下面的内容,请注意,格式内的```text 等标记都必须输出,这是我用来提取答案的标记。
```text
${{城市}}
```
... weathercheck(市)...
```output
${{提取后的答案}}
```
答案: ${{答案}}



这是一个例子:
问题: 上海未来天气情况?


```text上海```
...weathercheck(上海)...

```output
预报时间: 1小时后
温度: 6°C
天气: 晴
预报时间: 24小时后
温度: 7°C
天气: 晴

Answer: 现在天气晴,温度 6 度, 未来 24 小时天气晴,温度 7 度。

现在,这是我的问题:

问题: {question}
"""

然后将获取天气情况的工具源代码都去掉,换成以下我写的代码,首先是要下载 github.com/qwd/Locatio... 文件,主要是为了可以通过城市名字获取所对应的 ID ,因为获取天气情况的参数是城市 ID 。

python 复制代码
def getLocationId(city):
    d = collections.defaultdict(str)
    try:
        df = pd.read_csv("D:\Langchain-Chatchat-torch2\server\agent\tools\China-City-List-latest.csv", encoding='utf-8')
    except Exception as e:
        print(e)
    for i, row in df.iterrows():
        d[row['Location_Name_ZH']] = row['Location_ID']
    return d[city] if city in d else ''

然后调用 API 来获取城市未来 24 个小时的天气情况。

kotlin 复制代码
def get_weather(location):
    key = "你的 KEY"
    id = getLocationId(location)
    if not id:
        return "没有这个城市"
    base_url = 'https://devapi.qweather.com/v7/weather/24h?'
    params = {'location': id, 'key': key, 'lang': 'zh'}
    response = requests.get(base_url, params=params)
    data = response.json()
    if data["code"] != "200":
        return "没有这个城市的天气情况"
    return get_weather_info(data)

将获取的天气情况进行抽取,因为会返回每个小时的天气情况,所以这里只获取当前时刻的温度和天气描述文本,以及与当前距离未来第 24h 的温度和天气描述文本,组织成字符串进行返回。

python 复制代码
def get_weather_info(info):
    if info["code"]!="200":
        return "没有这个城市的天气情况"
    result = f'现在天气{info["hourly"][0]["text"]},温度 {info["hourly"][0]["temp"]} 度, 未来 24 小时天气{info["hourly"][-1]["text"]},温度 {info["hourly"][-1]["temp"]} 度。'
    return result


def weather(query):
    key = KEY
    if key == "":
        return "请先在代码中填入和风天气API Key"
    try:
        weather_data = get_weather(query)
        return weather_data  + ",并根据天气的不同,给出贴心的开车出行建议,或者行人出行穿戴建议\n"
    except KeyError:
        return "输入的地区不存在,无法提供天气预报"

启动项目进行对话

启动项目后,设置好如下左侧的参数,然后进行对话训话,发现我们的 agent 对话时候可以调用天气的工具进行外部天气的获取,不仅可以看到天气情况,还能给出贴心的出行穿戴建议(虽然有的建议很扯淡),折叠框中间还能看到中间的思考过程,到此大功告成!。

css 复制代码
python.exe .\startup.py -a

参考

相关推荐
浊酒南街30 分钟前
Statsmodels之OLS回归
人工智能·数据挖掘·回归
畅联云平台1 小时前
美畅物联丨智能分析,安全管控:视频汇聚平台助力智慧工地建设
人工智能·物联网
加密新世界1 小时前
优化 Solana 程序
人工智能·算法·计算机视觉
hunteritself1 小时前
ChatGPT高级语音模式正在向Web网页端推出!
人工智能·gpt·chatgpt·openai·语音识别
Che_Che_2 小时前
Cross-Inlining Binary Function Similarity Detection
人工智能·网络安全·gnn·二进制相似度检测
哈市雪花2 小时前
图像处理 之 凸包和最小外围轮廓生成
图像处理·人工智能·图形学·最小外围轮廓·最小外包
LittroInno2 小时前
无人机侦察打击方案(3)
人工智能·无人机
如若1232 小时前
实现了图像处理、绘制三维坐标系以及图像合成的操作
图像处理·人工智能
不爱说话郭德纲2 小时前
探索LLM前沿,共话科技未来
人工智能·算法·llm
谢眠2 小时前
机器学习day6-线性代数2-梯度下降
人工智能·机器学习