lobechat使用ollama搭建自己的离线聊天AI

docker安装部署lobechat

参考lobe https://github.com/lobehub/lobe-chat/blob/main/README.zh-CN.md

docker run -d -p 3210:3210 -e OPENAI_API_KEY=sk-xxxx -e ACCESS_CODE=lobe66 --name lobe-chat lobehub/lobe-chat

安装成功后 ollama设置环境变量

重启ollama服务,在cmd终端执行ollama serve

这样局域网其它设备也能访问ollama服务了

lobe模型设置中启用ollama

测试

成功!

PS:笔记本太辣鸡,内存也不够,qwen2几个G,调入内存后基本跑不动,一个hello几个token的简短提示词都得反应几分钟

相关推荐
wewowilling16 分钟前
LangChain入门
python·ai·langchain·prompt
aichitang20241 小时前
Meta Muse Spark Open:816B 巨型开放权重多模态 Agent 模型架构、部署实战与社区首测全解
大数据·人工智能·python·算法·ai·架构·spark
重生之高冷汉堡包1 小时前
Perplexity爬虫怎么做?2026常见方案对比、实操教程与问题排查
大数据·网络·爬虫·安全·ai
一只游鱼2 小时前
Agent上下文窗口
ai
艾莉丝努力练剑2 小时前
【AI大模型接入SDK】ChatServer接口实现
c++·人工智能·学习·ai·架构·大模型·sdk
奇牙coding2 小时前
GLM 系列接入 Continue.dev 配置指南:provider 设置与多轮对话问题排查
ai
DQQzero2 小时前
84.66% 的“实锤“是怎么来的:拆解模型指纹工具的闭集陷阱
人工智能·机器学习·ai·模型指纹
欢醉2 小时前
别卷"AI能做的事",去练"AI做不了的事"
ai·人生感悟
小七-七牛开发者16 小时前
周一上线 | DeepSeek 开始卷“许愿式编程”,Agent 手机来了,Character.AI 申请破产
ai·大模型·agent·claude·codex·deepseek·ai coding
玩泥巴的19 小时前
MAF + 飞书:让大模型干活,但别让它乱干
ai·c#·.net·飞书·agent