使用docker 通过lobechat部署ollama中的模型

启动ollama

bash 复制代码
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker stop ollama 
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker rm ollama
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker run --gpus all -d --name ollama ollama/ollama
737f207ce44459565d96585e93a24122c8f8248804d302dd49e7353a08f4d3d6

清除之前的lobechat

启动lobechat 并指定映射端口

bash 复制代码
docker run -d -p 3210:3210 --name lobe-chat lobehub/lobe-chat

通过在浏览器访问

服务器ip+映射端口访问lobechat

bash 复制代码
http://172.25.10.50:3210/

通过 Docker 容器中的 ollama 命令行工具,从 Ollama 模型管理系统中拉取(下载)llama2:7b-chat 模型。

bash 复制代码
docker exec -it ollama ollama pull llama2:7b-chat
相关推荐
努力的IT小胖子2 分钟前
Docker 镜像下载太慢?手把手教你修改镜像源,速度起飞!
后端·docker·容器
文牧之17 分钟前
PostgreSQL 常用日志
运维·数据库·postgresql
蓝莓味柯基22 分钟前
DevOps:概念与学习路径
运维·学习·devops
FJW02081438 分钟前
【Linux】web服务器的部署和优化
linux·运维·服务器·rhce
有谁看见我的剑了?1 小时前
docker 运行时权限和 Linux 能力了解
linux·docker·容器
平生不喜凡桃李1 小时前
Linux 进程控制
linux·运维·服务器
鱼与宇1 小时前
Linux常用命令
linux·运维·服务器
小南家的青蛙1 小时前
lspci的资料
linux·运维·服务器
敖云岚2 小时前
【那些年踩过的坑】Docker换源加速详细教程(截至2025年4月)
运维·docker·容器
柳如烟@2 小时前
Docker安装ES :确保 Kibana 正确连接 Elasticsearch
运维·数据库·elasticsearch·docker·容器·kibana