Ubuntu24.04结合ollama本地使用Hermes

Zucker n2026-09-10 12:06

Ollama：负责在本地运行语言模型。
Hermes Agent：负责把模型包装成一个真正的 Agent，让它能够执行终端命令、读写文件、使用工具、保存记忆、创建 skills，以及后续连接 Telegram 等。

1.本地安装ollama

在Ubuntu24.04本地安装ollama，

复制代码

# 安装脚本（自动下载+解压+配置服务）
curl -fsSL https://ollama.com/install.sh | sh

# 验证安装（输出版本即成功）
ollama --version

这里以qwen3.5为例，注意语言模型的参数适你的电脑显卡来定，这里用的是qwen3.5:2b.

复制代码

ollama pull qwen3.5:2b

安装成功：

验证url：

复制代码

curl http://127.0.0.1:11434/v1/models

使用下述安装脚本：

复制代码

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

安装完成后：

复制代码

source ~/.bashrc

确认安装成功：

复制代码

hermes --version

这里使用手动配置：

复制代码

hermes model

在 provider 里选择：

复制代码

Custom endpoint (self-hosted / VLLM / etc.)

URL填写ollama对应的这个，本地部署，这里的API key可选，直接按回车：

复制代码

API base URL: http://127.0.0.1:11434/v1

下一步选择2.Chat Completions

后续的包括设置上下文以及对话命名参考下面内容

复制代码

zucker@zucker-System-Product-Name:~$ hermes