使用docker 通过lobechat部署ollama中的模型

启动ollama

bash 复制代码
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker stop ollama 
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker rm ollama
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker run --gpus all -d --name ollama ollama/ollama
737f207ce44459565d96585e93a24122c8f8248804d302dd49e7353a08f4d3d6

清除之前的lobechat

启动lobechat 并指定映射端口

bash 复制代码
docker run -d -p 3210:3210 --name lobe-chat lobehub/lobe-chat

通过在浏览器访问

服务器ip+映射端口访问lobechat

bash 复制代码
http://172.25.10.50:3210/

通过 Docker 容器中的 ollama 命令行工具,从 Ollama 模型管理系统中拉取(下载)llama2:7b-chat 模型。

bash 复制代码
docker exec -it ollama ollama pull llama2:7b-chat
相关推荐
三不原则7 分钟前
运维笔记:HTTP 性能优化
运维·笔记·http
遇见火星16 分钟前
nginx安装配置Lua模块的支持
运维·nginx·lua
德迅云安全-如意28 分钟前
服务器与电脑主机的区别,普通电脑可以当作服务器用吗?
运维·服务器
东风微鸣42 分钟前
使用 Loki 配置告警,如何将原始日志内容添加告警到注释中?
docker·云原生·kubernetes·可观察性
字节高级特工1 小时前
【探索进程信号】:信号捕捉
linux·运维·服务器
探索云原生1 小时前
HAMi vGPU 原理分析 Part3:hami-scheduler 工作流程分析
云原生·容器·kubernetes·vgpu
shylyly_1 小时前
Linux->动静态库
linux·运维·服务器·gcc·动静态库·编址·打包库
Gss7772 小时前
一文理清 Linux 软件管理核心知识:从程序组成到包管理工具
linux·运维·服务器
软***c2 小时前
PPT文件密码解密工具推荐:Tenorshare PassFab for PPT绿色免安装一键解除密码限制,附详细教程和下载地址
运维·服务器·powerpoint·ppt密码解密·ppt解密工具
AI_Auto5 小时前
数字化转型-制造业未来蓝图:“超自动化”工厂
运维·自动化