本地部署【LLM-deepseek】大模型 ollama+deepseek/conda(python)+openwebui/docker+openwebui

通过ollama本地部署deepseek

总共两步

1.模型部署

2.[web页面]

参考官网

ollama:模型部署

https://ollama.com/

open-webui:web页面

https://github.com/open-webui/open-webui

设备参考 Mac M 芯片 windows未知

shell 复制代码
蒸馏模型版本:deepseek-r1:14b 运行情况
	macminim2 24+256 本地部署后内存舒缓,不影响电脑其他软件使用
	macminim4 16+256 本地部署后内存紧张,影响电脑其他软件使用
	内存占用情况:
	11G -> 21.72G 模型思考时,大概会占用11到12G的内存 

1.ollama:模型部署

shell 复制代码
	# 下载 ollama
	https://ollama.com/
	# 运行 deepseek 选择自己设备适合的版本[:14b],官网看命令 
	ollama run deepseek-r1:14b # 当前终端运行,可在终端交互
	ollama run deepseek-r1:14b & disown   # 放到后台去跑,终端页面关掉也不会关闭此模型

2.open-webui:web页面 推荐python的终端部署方式

2.1 docker部署web页面

shell 复制代码
	#
	docker pull ghcr.io/open-webui/open-webui:main
	# 创建本地目录,避免重启后数据丢失
	mkdir /Users/admin/program/docker/instance/open-webui/data
	cd /Users/admin/program/docker/instance/open-webui
	# 启动容器
	docker run -d -p 3000:8080 -v $PWD/data:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

2.2 python部署web页面 需要在有python环境下执行 推荐

shell 复制代码
	pip install open-webui
	open-webui serve
	open-webui serve & disown 
	# This will start the Open WebUI server, which you can access at http://localhost:8080

2.3 [忽略] conda创建python环境

shell 复制代码
	conda create -n openwebui python=3.12 -y 
	# python=3.12:指定 Python 版本 -y:自动确认安装
	conda init
	conda activate openwebui

	pip install open-webui
	open-webui serve							# 这个不能关闭终端
	open-webui serve & disown  					# 使用这个启动成功后,可以关闭终端了
	open-webui serve > /dev/null 2>&1 & disown 	# 使用这个启动成功后,可以关闭终端了
	# This will start the Open WebUI server, which you can access at http://localhost:8080

	# 放在后台的任务如何查看呢
	jobs							# 使用 jobs 命令查看当前作业状态。
	ps aux | grep "your-command"	# 或者使用 ps aux | grep "your-command" 检查进程是否存在。
	
	
相关推荐
慕木兮人可1 小时前
Docker部署MySQL镜像
spring boot·后端·mysql·docker·ecs服务器
用什么都重名2 小时前
MinerU:高效智能PDF文档解析工具完全指南
人工智能·python·pdf·mineru·makedown
倔强青铜三2 小时前
苦练Python第4天:Python变量与数据类型入门
前端·后端·python
这我可不懂2 小时前
Python 项目快速部署到 Linux 服务器基础教程
linux·服务器·python
倔强青铜三2 小时前
苦练Python第3天:Hello, World! + input()
前端·后端·python
小白学大数据2 小时前
Python爬取闲鱼价格趋势并可视化分析
开发语言·python
七月初七淮水竹亭~3 小时前
Pycharm 报错 Environment location directory is not empty 如何解决
ide·python·pycharm
倔强青铜三3 小时前
苦练Python第2天:安装 Python 与设置环境
前端·后端·python
布语world3 小时前
2025快手创作者中心发布视频python实现
爬虫·python
倔强青铜三3 小时前
苦练Python第1天:为何要在2025年学习Python
前端·后端·python