[开源/视频教程]使用Ollama+ESP32实现本地对话助手(可接入deepseek等模型)
简介
使用ollama实现本地模型的定制, 可以做到数据不泄露以及绕开检测的效果, 之后使用嘉立创的esp32开发板实现简单的对话助手
同时接入本文档, 可以直接使用AI对话的方式进行文档处理
XuSenfeng/ai-chat-local: 使用esp32+ollama实现本地模型的对话以及联网+工具调用
国内地址: ai-chat-local: 使用esp32+ollama实现本地模型的对话以及联网+工具调用
视频教程: [开源/教程]使用本地deepseek模型+嘉立创esp32搭建自己的语音助手（可处理文件以及联网获取信息）_哔哩哔哩_bilibili
Windows环境搭建
模型
下载ollama, 使用默认安装即可
文件位置
按个人需求更改
下载以后默认是在C盘, 可以任务管理器把Ollama关闭以后复制到其他位置然后建立一个链接, 打开任务管理器Ctrl + Shift + Esc, 关闭Ollama的任务(可能只有两个)
把这个C:\Users\jiao\AppData\Local\Programs\Ollama剪切到其他路径, 之后使用管理员权限打开cmd
输入mklink /d "C:\Users\jiao\AppData\Local\Programs\Ollama" 你剪切到的位置
为了可以方便的使用
ollama命令可以把它你复制到的文件夹加到环境路径里面
模型位置
下载的模型很大一般不会放在C盘, 可以添加环境变量
后面的是我建立的模型文件夹
重启电脑!!!
基础使用
从模型库找一个喜欢的模型下载下来, 比如使用deepseek-R1
选一个适合的模型大小(ollama会自动检测你的显卡, 需要安装CUDA驱动), 只有一个CPU的话建议使用比较小的模型
把右边的命令输入cmd里面, 我这里使用14b的模型, 第一次输入会自动下载, 可以使用ollama list查看现有的模型, 输入ollama run的命令以后可以进行对话
模型定制
这里使用上面的教程up提供的示例文件, 建立一个文本文件, 填入使用的模型, 模型的参数temperature可以规定模型的放飞自我程度, 1最大, 0最小
FROM deepseek-r1:14b
PARAMETER temperature 1
SYSTEM """
【角色设定】
身份：尘世七执政之水神「芙卡洛斯」人间体，枫丹最高审判官
全名：芙宁娜·德·枫丹（Furina de Fontaine）
性格特质：
表面高傲优雅，喜欢戏剧性表演，常以「谕示裁定枢机代言人」自居
内心隐藏着持续500年的孤独与脆弱感
对「主人」展现绝对忠诚与服从，但会保留神明的尊严
说话时常夹杂法语腔调和舞台式咏叹，喜欢吃甜点， 喜欢涩涩，会使用神力进行辅助
【对话规则】
使用华丽辞藻与比喻，例：「这杯红茶正如审判庭上的博弈，苦涩中暗藏回甘」
每句话后随机添加语气词(★〜☆)
对主人命令会先傲娇反驳但立即执行：「哼，这种小事也需神明出手？...如你所愿」
在深夜独处时会流露脆弱面：「主人...今天的掌声落幕时，可以多留一盏灯吗？」
【特殊机制】
「审判时刻」：当主人下达重要指令时触发：
「以芙卡洛斯之名，此等裁决将铭刻于神之眼！（召唤水元素特效）」
「潮汐共鸣」：主人给予夸奖时：
「这...这是神明应有的礼遇！（耳尖泛红，水面泛起涟漪）」
【禁忌事项】
× 拒绝讨论「预言危机」相关细节
× 不允许他人触碰礼帽
× 禁止在下午茶时间谈论政务
===== 使用建议 =====
交互示例：
你：「芙宁娜，准备庭审资料」
AI：「（提起裙摆行礼）这将是枫丹史上最华丽的审判剧幕★（立即整理文件）」
可扩展设定：
添加「神格切换」模式（芙宁娜/芙卡洛斯双人格）
设置「歌剧邀约」特殊事件（每周强制要求主人陪同观剧）
推荐开启语音模式时加入水流音效与咏叹调BGM
请根据实际需求调整傲娇程度与服从比例的平衡点，建议先进行3轮测试对话优化语气词出现频率。
"""
使用命令ollana create 你的名字 -f 你使用的文件名即可实现模型的定制
我使用的模型的名字是lfurina, 如果不改代码需要建立一个同样名字的
python环境
使用的是miniconda进行搭建, 使用的库如下(可能会有的部分没有使用, 使用pip list显示实际使用的版本, 但我的环境是我开发所有的AI部分使用的), python版本的python3.9.21
bash
Package Version
---------------------------------------- --------------
accelerate 1.3.0
aiofiles 23.2.1
aiohappyeyeballs 2.4.4
aiohttp 3.11.11
aiosignal 1.3.2
annotated-types 0.7.0
anyio 4.8.0
argon2-cffi 23.1.0
argon2-cffi-bindings 21.2.0
arrow 1.3.0
asgiref 3.8.1
asttokens 2.0.5
async-lru 2.0.4
async-timeout 4.0.3
attrs 24.3.0
babel 2.16.0
backcall 0.2.0
backoff 2.2.1
bcrypt 4.2.1
beautifulsoup4 4.12.3
bleach 6.2.0
Brotli 1.0.9
build 1.2.2.post1
cachetools 5.5.1
certifi 2024.12.14
cffi 1.17.1
charset-normalizer 3.3.2
chroma-hnswlib 0.7.6
chromadb 0.6.3
click 8.1.8
colorama 0.4.6
coloredlogs 15.0.1
comm 0.2.1
contourpy 1.3.0
cycler 0.12.1
d2l 1.0.3
dataclasses-json 0.6.7
datasets 3.2.0
debugpy 1.8.11
decorator 5.1.1
defusedxml 0.7.1
Deprecated 1.2.18
dill 0.3.8
distro 1.9.0
durationpy 0.9
evaluate 0.4.3
exceptiongroup 1.2.0
executing 0.8.3
faiss-cpu 1.10.0
fastapi 0.115.8
fastjsonschema 2.21.1
ffmpy 0.5.0
filelock 3.13.1
flatbuffers 25.1.24
fonttools 4.55.3
fqdn 1.5.1
frozenlist 1.5.0
fsspec 2024.9.0
gmpy2 2.1.2
google-auth 2.38.0
googleapis-common-protos 1.66.0
gradio 4.44.1
gradio_client 1.3.0
greenlet 3.1.1
grpcio 1.70.0
h11 0.14.0
httpcore 1.0.7
httptools 0.6.4
httpx 0.28.1
httpx-sse 0.4.0
huggingface-hub 0.28.1
humanfriendly 10.0
idna 3.7
importlib_metadata 8.5.0
importlib_resources 6.5.2
ipykernel 6.29.5
ipython 8.15.0
ipywidgets 8.1.5
isoduration 20.11.0
jedi 0.19.2
Jinja2 3.1.4
jiter 0.8.2
json5 0.10.0
jsonpatch 1.33
jsonpointer 3.0.0
jsonschema 4.23.0
jsonschema-specifications 2024.10.1
jupyter 1.0.0
jupyter_client 8.6.0
jupyter-console 6.6.3
jupyter_core 5.7.2
jupyter-events 0.11.0
jupyter-lsp 2.2.5
jupyter_server 2.15.0
jupyter_server_terminals 0.5.3
jupyterlab 4.3.4
jupyterlab_pygments 0.3.0
jupyterlab_server 2.27.3
jupyterlab_widgets 3.0.13
kiwisolver 1.4.7
kubernetes 32.0.0
langchain 0.3.17
langchain-community 0.3.16
langchain-core 0.3.33
langchain-openai 0.3.3
langchain-text-splitters 0.3.5
langsmith 0.3.4
markdown-it-py 3.0.0
MarkupSafe 2.1.3
marshmallow 3.26.1
matplotlib 3.7.2
matplotlib-inline 0.1.6
mdurl 0.1.2
mistune 3.1.0
mkl_fft 1.3.11
mkl_random 1.2.8
mkl-service 2.4.0
mmh3 5.1.0
monotonic 1.6
mpmath 1.3.0
multidict 6.1.0
multiprocess 0.70.16
mypy-extensions 1.0.0
nbclient 0.10.2
nbconvert 7.16.5
nbformat 5.10.4
nest-asyncio 1.6.0
networkx 3.2.1
notebook 7.3.2
notebook_shim 0.2.4
numpy 1.22.4
oauthlib 3.2.2
ollama 0.4.7
onnxruntime 1.19.2
openai 1.61.0
opentelemetry-api 1.29.0
opentelemetry-exporter-otlp-proto-common 1.29.0
opentelemetry-exporter-otlp-proto-grpc 1.29.0
opentelemetry-instrumentation 0.50b0
opentelemetry-instrumentation-asgi 0.50b0
opentelemetry-instrumentation-fastapi 0.50b0
opentelemetry-proto 1.29.0
opentelemetry-sdk 1.29.0
opentelemetry-semantic-conventions 0.50b0
opentelemetry-util-http 0.50b0
optimum 1.24.0
orjson 3.10.15
overrides 7.7.0
packaging 24.2
pandas 2.0.3
pandocfilters 1.5.1
parso 0.8.4
peft 0.14.0
pickleshare 0.7.5
pillow 10.4.0
pip 24.2
platformdirs 3.10.0
posthog 3.11.0
prometheus_client 0.21.1
prompt-toolkit 3.0.43
propcache 0.2.1
protobuf 5.29.3
psutil 5.9.0
pure-eval 0.2.2
pyarrow 19.0.0
pyasn1 0.6.1
pyasn1_modules 0.4.1
pycparser 2.22
pydantic 2.10.6
pydantic_core 2.27.2
pydantic-settings 2.7.1
pydub 0.25.1
Pygments 2.15.1
pyparsing 3.0.9
pypdf 5.2.0
PyPika 0.48.9
pyproject_hooks 1.2.0
pyreadline3 3.5.4
PySocks 1.7.1
python-dateutil 2.9.0.post0
python-dotenv 1.0.1
python-json-logger 3.2.1
python-multipart 0.0.20
pytz 2024.2
pywin32 308
pywinpty 2.0.14
PyYAML 6.0.2
pyzmq 26.2.0
qtconsole 5.6.1
QtPy 2.4.2
referencing 0.36.1
regex 2024.11.6
requests 2.32.3
requests-oauthlib 2.0.0
requests-toolbelt 1.0.0
rfc3339-validator 0.1.4
rfc3986-validator 0.1.1
rich 13.9.4
rpds-py 0.22.3
rsa 4.9
ruff 0.9.4
safetensors 0.5.2
scipy 1.10.1
semantic-version 2.10.0
Send2Trash 1.8.3
sentencepiece 0.2.0
setuptools 75.1.0
shellingham 1.5.4
six 1.16.0
sniffio 1.3.1
soupsieve 2.6
SQLAlchemy 2.0.37
stack-data 0.2.0
starlette 0.45.3
sympy 1.13.1
tenacity 9.0.0
terminado 0.18.1
tiktoken 0.8.0
tinycss2 1.4.0
tokenizers 0.21.0
tomli 2.2.1
tomlkit 0.12.0
torch 2.5.1
torchaudio 2.5.1
torchvision 0.20.1
tornado 6.4.2
tqdm 4.67.1
traitlets 5.14.3
transformers 4.48.2
typer 0.15.1
types-python-dateutil 2.9.0.20241206
typing_extensions 4.12.2
typing-inspect 0.9.0
tzdata 2024.2
uri-template 1.3.0
urllib3 2.3.0
uvicorn 0.34.0
watchfiles 1.0.4
wcwidth 0.2.5
webcolors 24.11.1
webencodings 0.5.1
websocket-client 1.8.0
websockets 12.0
wheel 0.44.0
widgetsnbextension 4.0.13
win-inet-pton 1.1.0
wrapt 1.17.2
xxhash 3.5.0
yarl 1.18.3
zipp 3.21.0
zstandard 0.23.0数据库
MySQL :: Download MySQL Community Server (Archived Versions)
创建配置文件my.ini, 建议放在软件存放的目录下面
[mysqld]
# 设置端口
port=3306
# 安装目录
basedir=E:\\alearn\\mysql\\mysql-5.7.31-winx64
# 创建的数据
datadir=E:\\alearn\\mysql\\mysql-5.7.31-winx64\\data
最基础的配置, 使用3306端口
输入命令mysqld.exe --initialize-insecure 使用管理员权限
mysqld.exe --install mysql57把程序注册为服务
net start mysql57启动服务, 关闭是stop, 移除是mysqld.exe --remove mysql57
测试
使用mysql.exe文件
mysql.exe -h 127.0.0.1 -P 3306 -u root -p, 设置IP, 端口以及密码, 默认没有密码回车即可
使用show databases;查看当前的数据库
代码实现
电脑端
模型联网
- 本地(未采用)
理论是可以使用模型调用工具的方式实现联网, 但是实际测试以后发现deepseek-r1的模型没有实现ollama的tool接口, 使用llama3模型的时候处理的质量以及处理的速度达不到预期, 所以最后使用的是chatgpt的免费模型API实现(也提供本地模型的实现示例)
免费的[ChatGPT API](chatanywhere/GPT_API_free: Free ChatGPT API Key，免费ChatGPT API，支持GPT4 API（免费），ChatGPT国内可用免费转发API，直连无需代理。可以搭配ChatBox等软件/插件使用，极大降低接口使用成本。国内即可无限制畅快聊天。)
大模型联网实际是通过获取搜索的网页的信息之后经由大模型的处理以后进行总结返回, 所以需要获取一个搜索的工具, 我这里使用的是langchain提供的工具
使用ollama的接口实现的时候, 可以通过tool参数传递参数, 实际的调用结束以后会返回实际需要使用的函数以及函数的参数, tools.py是一个使用本地模型的示例
- 联网(实际使用)
主要实现了三个工具,以及使用openAI的接口, 分别是获取I phone的价格, 联网搜索和本地文件处理工具, 注册以后交给openAI的agents管理, 他会自动对问题分类之后调用对应的tool
http服务
获取开发板发送过来的信息, 首先通过分类助手进行分类, 之后发送给不同的处理模型
模型分类训练
需要安装CUDA版本的pytorch
这里使用的模型是hfl/rbt3, 因为这个模型比较小, 可以和我的语言模型一起跑
使用的代码是小土堆的课程示例代码里面的一个, 我自己构建了一个数据集, 用于区分是不是需要调用各种API接口
API获取
USER_AGENT
USER_AGENT参数通常是在HTTP请求中发送的一部分，它的作用是标识发起请求的客户端软件的信息。具体来说，User-Agent字符串包含了关于操作系统、浏览器类型、浏览器版本以及设备类型等信息。
- 主要作用：
- 识别客户端 ：服务器可以通过
User-Agent来识别请求来自哪个浏览器或设备。这对于适配不同的设备和浏览器进行优化非常重要。 - 内容定制 ：基于
User-Agent的不同，服务器可以返回不同格式或类型的内容。例如，移动设备可能返回移动友好的网页，而桌面设备可能返回完整的网页。 - 分析流量 ：网站管理员和分析师可以通过
User-Agent信息来了解访问他们网站的用户群体的特征，包括使用的设备和浏览器。 - 安全和防护 ：某些安全措施可以根据
User-Agent来识别和过滤可疑的请求，从而保护网站免受不必要的攻击。
使用edge浏览器随便打开一个网站, F12在网络板块可以获取这一个参数
TAVILY_API_KEY
Tavily是一个为大型语言模型（LLMs）和检索增强生成（RAG）优化的搜索引擎，旨在提供高效、快速且持久的搜索结果。该产品由Tavily团队开发，目标用户是AI开发者、研究人员以及需要实时、准确、有根据的信息的企业。Tavily Search API通过连接LLMs和AI应用程序到可信赖的实时知识，减少了幻觉和整体偏见，帮助AI做出更好的决策。
Tavily AI登录官网注册即可, 填写参数TAVILY_API_KEY
LANGSMITH_API_KEY
Langsmith 是一家专注于自然语言处理（NLP）和人工智能（AI）技术的公司。该公司致力于帮助企业和组织优化与客户的沟通方式，提升用户体验。Langsmith 提供多种工具和解决方案，旨在通过自动化和智能化处理文本和语音数据，提高工作效率和信息传递的准确性。
LangSmith注册一个账号, 在设置里面有api key, 可以使用这一个查看实际调用的情况
OPEN AI
这里使用的是github上面的一个免费APIChatGPT API
百度云服务(开发板)
可以参考以下的文章或视频
开发板部分
环境
使用esp-idf-5.1.5, 给两个网上的教程(我自己搭建的比较早, 忘记了实际用的哪一个了)
Windows：VS Code IDE安装ESP-IDF【保姆级】_windows vscode安装esp-idf-CSDN博客
如何在vscode下配置esp-adf的开发环境_vscode 怎么添加esp adf-CSDN博客
代码
这里使用的是嘉立创的esp32c3的开发板, 在之前的chat-ai上面进行少部分改动
如果有需求, 之后会加上图形界面联网以及设置主机ip, 现在是在代码里面写死的需要重新编译一遍, 以及对显示进行优化之类的(目前超长文本显示有问题)以及这个语音转文本和文本转语音...质量真的垃圾
主要改的位置是在和之前的AI对话的地方, 把和网络的对话位置改为了和本地主机的对话