lobechat使用ollama搭建自己的离线聊天AI

docker安装部署lobechat

参考lobe https://github.com/lobehub/lobe-chat/blob/main/README.zh-CN.md

docker run -d -p 3210:3210 -e OPENAI_API_KEY=sk-xxxx -e ACCESS_CODE=lobe66 --name lobe-chat lobehub/lobe-chat

安装成功后 ollama设置环境变量

重启ollama服务,在cmd终端执行ollama serve

这样局域网其它设备也能访问ollama服务了

lobe模型设置中启用ollama

测试

成功!

PS:笔记本太辣鸡,内存也不够,qwen2几个G,调入内存后基本跑不动,一个hello几个token的简短提示词都得反应几分钟

相关推荐
曲幽16 小时前
FastAPI实战:打造本地文生图接口,ollama+diffusers让AI绘画更听话
python·fastapi·web·cors·diffusers·lcm·ollama·dreamshaper8·txt2img
哥不是小萝莉2 天前
OpenClaw 架构设计全解析
ai
warm3snow2 天前
Claude Code 黑客马拉松:5 个获奖项目,没有一个是"纯码农"做的
ai·大模型·llm·agent·skill·mcp
Ray Liang2 天前
被低估的量化版模型,小身材也能干大事
人工智能·ai·ai助手·mindx
曲幽2 天前
我用FastAPI接ollama大模型,差点被asyncio整崩溃(附对话窗口实战)
python·fastapi·web·async·httpx·asyncio·ollama
代码匠心2 天前
AI 自动编程:一句话设计高颜值博客
前端·ai·ai编程·claude
JavaGuide3 天前
Claude Opus 4.6 真的用不起了!我换成了国产 M2.5,实测真香!!
java·spring·ai·claude code
Swizard3 天前
逐行解剖:扒开 Lovable Agent 源码,看顶级 AI 是如何“思考”与“动刀”的
ai·prompt
warm3snow3 天前
AI 核心技能系列:12 篇文章带你系统掌握大模型岗位必备技能
ai·transformer·agent·skill·mcp·fine-tunning