使用docker 通过lobechat部署ollama中的模型

启动ollama

bash 复制代码
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker stop ollama 
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker rm ollama
ollama
(ml_env) (base) lqsilicon@lqsilicon-MW50-SV0:~$ docker run --gpus all -d --name ollama ollama/ollama
737f207ce44459565d96585e93a24122c8f8248804d302dd49e7353a08f4d3d6

清除之前的lobechat

启动lobechat 并指定映射端口

bash 复制代码
docker run -d -p 3210:3210 --name lobe-chat lobehub/lobe-chat

通过在浏览器访问

服务器ip+映射端口访问lobechat

bash 复制代码
http://172.25.10.50:3210/

通过 Docker 容器中的 ollama 命令行工具,从 Ollama 模型管理系统中拉取(下载)llama2:7b-chat 模型。

bash 复制代码
docker exec -it ollama ollama pull llama2:7b-chat
相关推荐
从零开始学习人工智能1 小时前
Docker 镜像导出与导入:export/import vs save/load
运维·docker·容器
基哥的奋斗历程4 小时前
Kubernetes 存储 Downward API
云原生·容器·kubernetes
rufeike5 小时前
Rclone同步Linux数据到google云盘
linux·运维·服务器
csdn_aspnet5 小时前
如何在 Linux 上安装 Python
linux·运维·python
西贝爷7 小时前
批量删除git本地分支和远程分支命令
运维
jianbiao14837 小时前
远程服务器下载llama模型
运维·服务器
fei_sun8 小时前
获取ssh密钥
运维·ssh
zhglhy8 小时前
查看 Linux 操作系统信息的常用命令
linux·运维·服务器
照书抄代码8 小时前
Linux中C++ gdb调试命令
linux·运维·服务器
czhc11400756639 小时前
linux3 mkdir rmdir rm cp touch ls -d /*/
linux·运维