基于大模型的 RAG 核心开发——详细介绍 DeepSeek R1 本地化部署流程

前言

自从 DeepSeek 发布后,对 AI 行业产生了巨大的影响,以 OpenAI、Google 为首的国际科技集团为之震惊,它的出现标志着全球AI竞争进入新阶段。从以往单纯的技术比拼转向效率、生态与战略的综合较量。其影响已超越企业层面,涉及地缘政治、产业政策与全球技术治理,它彻底改变"美国主导创新、中国跟随应用"的传统格局,形成多极化的技术权力分布。

DeepSeek 的开源性彻底打破了 OpenAI 等公司通过 API 接口调用,依赖 token 计费的单一规则。因为 DeepSeek 是一个开源的产品,任何人都可通过 GitHub 等途径下载它的核心源代码,这种开源方案有点类似当年的 Android / 鸿蒙发展策略。任何人都可以为 DeepSeek 开发某项额外的功能,为DeepSeek 的茁壮成长贡献自己的一份力量。

它包括了 DeepSeek R1 / DeepSeek V3 / DeepSeek Coder V2 / DeepSeek VL / DeepSeek V2 / DeepSeek Coder / DeepSeek Math / DeepSeek LLM 等多个不同的模型,以适应不同领域的应用。私人开发者可以下载 DeepSeek R1 检心框架进行调试,如果企业调用 DeepSeek 的 API 接口,也需要按 token 收费,然而费用不到 ChatGDP 的十分之一,对企业来说是相当有良心。DeepSeek 的 R1 模型支持本地化部署,用户可以在企业服务器内单独部署自己的 DeepSeek 模型,以适应各自的领域需求。

废话不多说,下面为大家介绍 DeepSeek R1 的本地化部署流程。

一、运行环境要求

‌1. 硬件配置‌

  • 独立显卡(推荐 NVIDIA 1060 以上 GPU显存 ≥ 6GB)‌
  • CPU、内存及存储需满足模型参数规模(如1.5B/7B/14B模型对应不同配置)‌

进入 DeepSeek 的官网 https://www.deepseek.com/,点激 DeepSeek R1 的模型连接,可以进入 GitHub 的源代码页面。里面可看到 DeepSeek R1 包含了多个不同大小的模型,每个模型需要使用的资源不一样。一般情况下建议使用 1.5B 的轻量级模型,GPU 在 6G~8G 可以尝试使用 7B 的平衡型模型。

显卡要求可参考下表

‌2. 依赖工具‌

  • Ollama 或 HFD 部署工具及模型库
  • Docker、Python等基础环境‌

常用下载模型的方法主要有两种,一是通过 Ollama,二是通过 HuggingFace。虽然 HuggingFace 的镜像比较丰富全面,但由于在2023年底,HuggingFace 的官网已经彻底被封,想要下载镜像需要使用 https://hf-mirror.com 里面的 HFD 工具通过命令执行,对新手来说相对不太友好,所以本文就选择相对轻量级的 Ollama 工具进行安装。

二、安装步骤

1. 安装 Ollama

首先到 Ollama 官网 https://www.ollama.com 下载 ollama,可以选择 Windows、Linux、masOS 三个不同的版本

下载后点激安装,默认安装路径在 C:\Users\username\AppData\Local\Programs\Ollama 下

安装完成后,打开 Windows 的环境变量,修改用户变量中的 Path 值,加入 Ollama 的路径 C:\Users\username\AppData\Local\Programs\Ollama

完成设置后,点激 Ollama.exe 按钮,然后在命令提示符中输入 ollama -v,见到 ollama 版本号代表安装成功。

也打开浏览器,输入Ollama 运行地址 "http://127.0.0.1:11434"

看到 "Ollama is running" 字样证明 Ollama 已经正常运行。

2. 下载 deepseek v1 模型

ollama 的命令与 docker 有点类似,输入命令 ollama pull deepseek-r1:7b 系统开始下载模型 deepseek v1:7b

最后看到 success 代表下载成功

此时输入命令 ollama ls 可以查看已下载的模型

3. 运行模型

输入命令 "ollama run deepseek-r1:7b" 启动模型

成功启动后就可以尝试输入问题让 deepseek 回答。

按下 CTRL+D 可以退出当前对话

若要查看当前运行的模型,可以输入 ollama ps

若要停止模式运行,可输入 ollama stop deepseek-r1:7b。

停止后再输入 ollama ps,可以知道停止命令是否成功

三、可视化部署

DeepSeek R1 不仅可以通过命令执行,还可通过插件进行可视化部署,布置出与官网应用类似的应用场景。

首先选择浏览器的扩展按键,填入 Page Assist 进行搜索,安装插件。

完成安装后,若要选择中文版可点激右上角设置按钮,在language中选择 "简体中文"

在命令提示符输入 ollama run deepseek-r1:7b ,确定 deepseek 模型已经正常运行后, 在 Ollama URL 处填入默认的运行地址 http://127.0.0.1:11434

回到首页,在选项中可以查到系统中正在运行的模型,选择你要有的模型类别

此时,你已经可以在本机尽情享受 DeepSeek 给你带来的乐趣。

本章小结

前面已经介绍了 DeepSeek R1 本地化部署流程,本地化部署不仅能保障数据安全,更能通过灵活定制实现业务场景的高效适配,为企业智能化转型提供可靠的技术底座。DeepSeek 模型从环境准备、模型加载到 RAG 功能集成,每一个环节都体现了大模型与企业私有化场景深度融合的技术潜力。接下来一连几章将会为大家介绍基于大模型 RAG 的核心开发,敬请留意。

作者:风尘浪子
https://www.cnblogs.com/leslies2/p/18808145
原创作品,转载时请注明作者及出处

相关推荐
源流之道6 小时前
联想Y700 五代(TB323FU)刷 ColorOS 16 教程指南
网络·ai·刷机指南·刷机心得
无忧智库8 小时前
AI分镜提示词怎么选
人工智能·ai
小凡geo8 小时前
本地商家 GEO:用脚本一键生成 FAQPage 结构化数据,让 AI 切片更稳
开发语言·人工智能·python·microsoft·搜索引擎·ai
张晓宇 .10 小时前
Codex 使用教程(2026年9月 0.158 最新版):安装、国内接入 DeepSeek / GPT-6、config.toml 配置与报错排查
gpt·大模型·openai·ai编程·codex·deepseek
wp123_112 小时前
TLVR 电感在 AI 服务器电源中的应用与市场前景分析
服务器·人工智能·科技·ai·硬件工程
软件开发技术深度爱好者13 小时前
中学生学习工具:多学科自学启导者(轻量版)实现
学习·ai·技术实践
小马92613 小时前
KV Cache 瘦身 437 倍:DeepSeek V4.1-Flash 的推理效率革命
大模型·moe·kv cache·deepseek·推理优化·ai基础设施
zhanghaha131414 小时前
AI Agent_5 AI 大语言模型基础(LLM)
ai
感谢地心引力15 小时前
来试试我做的音乐播放器吧
ai·rust·音乐·navidrome·music·tarui