【清晰教程】本地部署DeepSeek-r1模型

【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

目录

Ollama

安装Ollama

DeepSeek-r1模型

安装DeepSeek-r1模型


Ollama

Ollama 是一个开源工具,专注于简化大型语言模型(LLMs)的本地部署和管理。它允许用户在本地计算机上运行各种 AI 大模型(如 Llama、DeepSeek、Mistral 等),而无需依赖云服务。

Ollama 支持多种操作系统,包括 macOS、Linux 和 Windows。安装方式因系统而异,例如在 macOS 上可以通过 Homebrew 安装。基于Ollama,用户可以通过命令行工具或 Web 界面调用模型。能够实现本地部署、模型管理、API支持等功能。

  • 本地部署:支持在本地计算机上运行大型语言模型,确保数据隐私和低延迟。

  • 模型管理:轻松下载、更新和删除模型。

  • 跨平台支持:兼容 macOS、Linux 和 Windows。

  • API 支持:提供 RESTful API,方便与其他应用程序集成。

  • 社区驱动:开源项目,拥有活跃的社区支持。

安装Ollama

访问Ollama官网的下载页面

Download Ollama on Windowshttps://ollama.com/download

选择适配操作系统的客户端,单击下载
如下载速度偏慢可考虑科学上网

​下载完成后,双击打开OllamaSetup

点击Install安装

Ollama默认安装在C盘,需要2G以上存储空间

安装完成后,通过命令行检查Ollama的安装情况

​也可通过Win+R,在运行框中键入cmd进入命令行

在命令行中键入ollama,显示以下信息即为安装成功

复制代码
ollama

安装完成后,Ollama 会在后台自动运行,默认端口是 11434

DeepSeek-r1模型

访问Ollama官网的模型页面

Ollamahttps://ollama.com/search

选择所需模型,这里选用DeepSeek-r1

在DeepSeek-r1的详细页面包含各种量级的模型以及对应的模型下载命令:

这里作为演示,选用最小的1.5b-DeepSeek-r1

下载命令为

复制代码
ollama run deepseek-r1:1.5b

安装DeepSeek-r1模型

复制对应模型的下载命令

复制代码
ollama run deepseek-r1:1.5b

进入命令行

​也可通过Win+R,在运行框中键入cmd进入命令行

键入对应模型的下载命令

下载完成后即可直接使用模型进行交互

至此便已经完成DeepSeek-r1的本地部署。如需GUI界面,可通过Docker部署适配的WebUI。【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

相关推荐
Ai尚研修-贾莲8 小时前
全链路自主构建智慧科研写作系统——融合LLM语义理解、多智能体任务协同与n8n自动化工作流构建
人工智能·agent·智能体·deepseek·n8n·智慧科研写作·llm语义理解
AI大模型1 天前
基于Docker+DeepSeek+Dify :搭建企业级本地私有化知识库超详细教程
docker·llm·deepseek
freephp3 天前
企业级LLM已经到了next level:LangChain + DeepSeek = 王炸
langchain·deepseek
孤狼程序员3 天前
DeepSeek文献太多太杂?一招制胜:学术论文检索的“核心公式”与提问艺术
人工智能·文献搜索·deepseek
AMiner:AI科研助手3 天前
警惕!你和ChatGPT的对话,可能正在制造分布式妄想
人工智能·分布式·算法·chatgpt·deepseek
算家计算4 天前
DeepSeek被曝年底推出AI智能体,下一代人机交互时代要来了?
人工智能·agent·deepseek
数字化顾问5 天前
【54页PPT】基于DeepSeek的数据治理技术(附下载方式)
deepseek
AI大模型6 天前
DeepSeek本地部署有什么用?轻松解锁 DeepSeek 本地部署
程序员·llm·deepseek
封奚泽优7 天前
提取动漫图像轮廓并拟合为样条曲线(MATLAB)
图像处理·人工智能·计算机视觉·matlab·deepseek
Francek Chen7 天前
【DeepSeek】蓝耘元生代 | 蓝耘MaaS平台与DeepSeek-V3.1重构智能应用开发
人工智能·深度学习·自然语言处理·maas·deepseek·蓝耘元生代