【清晰教程】本地部署DeepSeek-r1模型

【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

目录

Ollama

安装Ollama

DeepSeek-r1模型

安装DeepSeek-r1模型


Ollama

Ollama 是一个开源工具,专注于简化大型语言模型(LLMs)的本地部署和管理。它允许用户在本地计算机上运行各种 AI 大模型(如 Llama、DeepSeek、Mistral 等),而无需依赖云服务。

Ollama 支持多种操作系统,包括 macOS、Linux 和 Windows。安装方式因系统而异,例如在 macOS 上可以通过 Homebrew 安装。基于Ollama,用户可以通过命令行工具或 Web 界面调用模型。能够实现本地部署、模型管理、API支持等功能。

  • 本地部署:支持在本地计算机上运行大型语言模型,确保数据隐私和低延迟。

  • 模型管理:轻松下载、更新和删除模型。

  • 跨平台支持:兼容 macOS、Linux 和 Windows。

  • API 支持:提供 RESTful API,方便与其他应用程序集成。

  • 社区驱动:开源项目,拥有活跃的社区支持。

安装Ollama

访问Ollama官网的下载页面

Download Ollama on Windowshttps://ollama.com/download

选择适配操作系统的客户端,单击下载
如下载速度偏慢可考虑科学上网

​下载完成后,双击打开OllamaSetup

点击Install安装

Ollama默认安装在C盘,需要2G以上存储空间

安装完成后,通过命令行检查Ollama的安装情况

​也可通过Win+R,在运行框中键入cmd进入命令行

在命令行中键入ollama,显示以下信息即为安装成功

复制代码
ollama

安装完成后,Ollama 会在后台自动运行,默认端口是 11434

DeepSeek-r1模型

访问Ollama官网的模型页面

Ollamahttps://ollama.com/search

选择所需模型,这里选用DeepSeek-r1

在DeepSeek-r1的详细页面包含各种量级的模型以及对应的模型下载命令:

这里作为演示,选用最小的1.5b-DeepSeek-r1

下载命令为

复制代码
ollama run deepseek-r1:1.5b

安装DeepSeek-r1模型

复制对应模型的下载命令

复制代码
ollama run deepseek-r1:1.5b

进入命令行

​也可通过Win+R,在运行框中键入cmd进入命令行

键入对应模型的下载命令

下载完成后即可直接使用模型进行交互

至此便已经完成DeepSeek-r1的本地部署。如需GUI界面,可通过Docker部署适配的WebUI。【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

相关推荐
Wnq1007223 分钟前
DEEPSEEK创业项目推荐:
运维·计算机视觉·智能硬件·ai创业·deepseek
AIGC大时代9 小时前
DeepSeek学术仿写过程中如何拆解框架?
人工智能·chatgpt·智能写作·deepseek·aiwritepaper
华健课堂9 小时前
DeepSeek 聊天机器人项目
人工智能·deepseek
小溪彼岸1 天前
【DeepSeek】DeepSeek-V3-0324发布,代码能力比肩Claude 3.5?
deepseek
白雪讲堂1 天前
GEO(生成引擎优化)实施策略全解析:从用户意图到效果追踪
大数据·人工智能·搜索引擎·ai·deepseek
后端小肥肠1 天前
Coze+TreeMind实测:秒出ISO标准流程图/脑图(附完整提示词)
人工智能·coze·deepseek
前行的小黑炭1 天前
Android:如何看Github、Gitee上的项目提升自己的能力?一条龙服务,尤其是有了DeepSeek以后。
android·kotlin·deepseek
大模型真好玩1 天前
新王登基!DeepSeek-V3-0324横空出世,国产大模型还得看DeepSeek(详细DeepSeek-V3-0324模型评测)
人工智能·深度学习·deepseek
小小面试官1 天前
DeepSeek详解:探索下一代语言模型
人工智能·pytorch·知识图谱·位置编码·多头注意力·deepseek·核心功能