lobechat使用ollama搭建自己的离线聊天AI

docker安装部署lobechat

参考lobe https://github.com/lobehub/lobe-chat/blob/main/README.zh-CN.md

docker run -d -p 3210:3210 -e OPENAI_API_KEY=sk-xxxx -e ACCESS_CODE=lobe66 --name lobe-chat lobehub/lobe-chat

安装成功后 ollama设置环境变量

重启ollama服务,在cmd终端执行ollama serve

这样局域网其它设备也能访问ollama服务了

lobe模型设置中启用ollama

测试

成功!

PS:笔记本太辣鸡,内存也不够,qwen2几个G,调入内存后基本跑不动,一个hello几个token的简短提示词都得反应几分钟

相关推荐
ValidationExpression16 小时前
LangChain1.0学习
学习·ai·langchain·fastapi
柳安忆16 小时前
Agent实战!从创意到突破:构建一个多智能体协作的研究创意生成系统
人工智能·ai
no245441016 小时前
RAGFlow 全面接入 MinerU 2.0,支持 pipeline、vlm-transformers、vlm-sglang 三种模式,解析精度大幅度up
java·大数据·人工智能·python·ai·sglang
m0_6038887116 小时前
EmbeddingRWKV State-Centric Retrieval with Reusable States
ai·论文速览
之歆17 小时前
Spring ai 指标监控
java·人工智能·spring·ai
yuluo_YX17 小时前
Prompt 工程--“骗出” System Prompt
ai·prompt·agent
Sammyyyyy18 小时前
Gemini CLI 进阶:构建安全的MCP连接与验证策略
开发语言·ai·ai编程·servbay
跨境日记的老周19 小时前
AI搜索重构流量格局:GEO优化,破解“品牌隐身”危机的战略
ai
xixixi7777719 小时前
AGI-Next前沿峰会——对于唐杰教授提到的AI下一步方向的“两条思路一次取舍”的思考(思路分析+通俗易懂解释)
人工智能·ai·大模型·agi·通用人工智能·asi
AlfredZhao1 天前
小白学AI开发01:创建第一个示例Agent
ai·langchain·agent