使用docker 通过lobechat部署ollama中的模型

启动ollama

bash 复制代码
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker stop ollama 
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker rm ollama
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker run --gpus all -d --name ollama ollama/ollama
737f207ce44459565d96585e93a24122c8f8248804d302dd49e7353a08f4d3d6

清除之前的lobechat

启动lobechat 并指定映射端口

bash 复制代码
docker run -d -p 3210:3210 --name lobe-chat lobehub/lobe-chat

通过在浏览器访问

服务器ip+映射端口访问lobechat

bash 复制代码
http://172.25.10.50:3210/

通过 Docker 容器中的 ollama 命令行工具,从 Ollama 模型管理系统中拉取(下载)llama2:7b-chat 模型。

bash 复制代码
docker exec -it ollama ollama pull llama2:7b-chat
相关推荐
cui_win38 分钟前
【网络】Linux 内核优化实战 - net.core.flow_limit_table_len
linux·运维·网络
风清再凯43 分钟前
自动化工具ansible,以及playbook剧本
运维·自动化·ansible
深圳安锐科技有限公司1 小时前
深圳安锐科技发布国内首款4G 索力仪!让斜拉桥索力自动化监测更精准高效
运维·安全·自动化·自动化监测·人工监测·桥梁监测·索力监测
猫头虎1 小时前
猫头虎 AI工具分享:一个网页抓取、结构化数据提取、网页爬取、浏览器自动化操作工具:Hyperbrowser MCP
运维·人工智能·gpt·开源·自动化·文心一言·ai编程
cocologin3 小时前
RIP 技术深度解析
运维·网络·网络协议
庸子3 小时前
基于Jenkins和Kubernetes构建DevOps自动化运维管理平台
运维·kubernetes·jenkins
Lpy25693 小时前
Docker Desktop 安装到D盘(包括镜像下载等)+ 汉化
运维·docker·容器
眠修3 小时前
Kuberrnetes 服务发布
linux·运维·服务器
hunjinYang4 小时前
Tomcat镜像实战:掌握Dockerfile的编写以及发布项目
docker·tomcat
好奇的菜鸟4 小时前
Docker 配置项详解与示例
运维·docker·容器