自己动手实现一个简单的Linux AI Agent

大模型带我们来到了自然语言人机交互的时代

1、安装本地大模型进行推理

下载地址:
https://ollama.com/download

部署本地deepseek

bash 复制代码
ollama run deepseek-r1:7b

2、制定Linux操作接口指令规范

需要ai推理生成的json格式:

json 复制代码
[
    {
        "host": "10.1.1.10",
        "OS": "CentOS7.9",
        "user": "root",
        "ssh_port": 22,
        "command": "df -h"
    }
]

提示词:

复制代码
有如下json中的主机,请结合用户需求和OS类型给出准确的command命令替换"command"键值:
[
    {
        "host": "10.1.1.10",
        "OS": "CentOS7.9",
        "user": "root",
        "ssh_port": 22,
        "command": "df -h"
    }
]
其他key未说明情况下为默认,请根据用户需求返回json,仅回复json文本。

在page assist中测试提示词

命令最好是使用提示词都规范下:

3、编写大模型对话工具

python 复制代码
#!/usr/bin/python3
#coding: utf-8

import json
import requests

model = "llama3"

def chat(messages):
    r = requests.post(
        "http://localhost:11434/api/chat",
        json={"model": model, "messages": messages, "stream": True},
    )
    r.raise_for_status()
    output = ""
    for line in r.iter_lines():
        body = json.loads(line)
        if "error" in body:
            raise Exception(body["error"])
        if body.get("done") is False:
            message = body.get("message", "")
            content = message.get("content", "")
            output += content
            print(content, end="", flush=True)
        if body.get("done", False):
            message["content"] = output
            return message

def main():
    messages = []
    while True:
        user_input = input("Enter a prompt: ")
        if not user_input:
            exit()
        print()
        messages.append({"role": "user", "content": user_input})
        message = chat(messages)
        messages.append(message)
        print("\n\n")

if __name__ == "__main__":
    main()

4、运行AI Agent查看效果


未完待续

相关推荐
一休Q_Q1 分钟前
流式语音识别概述-paddlespeech
人工智能·语音识别
爱编程的鱼22 分钟前
如何创建并保存HTML文件?零基础入门教程
开发语言·前端·人工智能·html
正经教主29 分钟前
AI入门7:python三种API方式调用本地Ollama+DeepSeek
人工智能·vscode·python
蹦蹦跳跳真可爱58938 分钟前
Python----计算机视觉处理(Opencv:图像缩放)
人工智能·python·opencv·计算机视觉
艰默39 分钟前
Bug 算法路径规划:原理、推导与实现
人工智能·算法·bug·路径规划
WenGyyyL44 分钟前
高亮动态物体——前景提取与动态物体检测器(opencv实现)
人工智能·深度学习·神经网络·opencv·计算机视觉
Mr.Winter`1 小时前
轨迹优化 | 基于梯度下降的路径规划算法(附ROS C++/Python仿真)
c++·人工智能·算法·机器人·自动驾驶·ros·ros2
海海不掉头发4 小时前
【408计算机网络-自顶向下-应用层】-简单描述概念PPT-中国科学技术大学-郑老师-计算机网络课程的深度复习资料
人工智能·计算机网络
大数据追光猿9 小时前
Tree of Thought Prompting(思维树提示)
大数据·人工智能·深度学习·计算机视觉·语言模型
明晚十点睡9 小时前
解决diffusers加载stablediffusion模型,输入prompt总是报错token数超出clip最大长度限制
人工智能·深度学习·机器学习·计算机视觉·stable diffusion·prompt