技术背景
DeepSeek是这段时间最热门的话题之一，其蒸馏模型可以实现低成本而高质量的推理，使得我们现在可以在本地小型化的硬件上也用上大模型这一AI利器。本文主要介绍通过Ollama来部署DeepSeek R1模型的方法，由于网络环境的问题，过程相比于普通的安装方案可能略有改动。
安装Ollama
以下是DeepSeek生成的关于Ollama的介绍的一个片段：
Ollama 是一个开源工具，专门用于在本地运行、管理和部署大型语言模型（LLMs，Large Language Models）。它简化了 LLMs 的安装、配置和运行流程，支持多种流行的开源模型（如 LLaMA、Mistral、DeepSeek 等），适合开发者和研究人员在本地环境中快速实验和开发。
Ollama的官网地址为：https://ollama.com，可以先尝试一下直接从官网下载适合自己本地环境的版本，Linux、Windows和MacOS都有相应的支持。如果按照官网的Linux下载方式有类似于这样的报错信息：
bash
curl: (22) The requested URL returned error: 403则可以按照本章节的方案试一试，如果没有出现报错，那就直接跳到下一个章节即可。这里我们将Ollama的下载和执行脚本分开进行，首先用curl下载一个安装脚本：
bash
$ curl -fsSL https://ollama.com/install.sh -o ollama_install.sh然后为该脚本加上一个可执行的权限：
bash
$ chmod +x ollama_install.sh使用如下指令，把默认的Ollama下载地址指向Github下载地址：
bash
$ sed -i 's|https://ollama.com/download/|https://github.com/ollama/ollama/releases/download/v0.5.7/|' ollama_install.sh这里版本号是写这篇文章时最新的版本号，读者可以自行搜索最新版本的地址进行修改，然后执行该脚本文件：
bash
$ sh ollama_install.sh
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
############################################## 57.7%这就开始下载了，速度也蛮快。对于Github访问有困难的选手来说，你可能需要这个：https://github.moeyy.xyz/。如果安装过程没有任何的报错，那界面输出大概是这样的：
bash
$ sh ollama_install.sh
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
################################################################################# 100.0%
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> NVIDIA GPU installed.可以验证一下安装结果：
bash
$ ollama --help
Large language model runner
Usage:
ollama [flags]
ollama [command]
Available Commands:
serve Start ollama
create Create a model from a Modelfile
show Show information for a model
run Run a model
stop Stop a running model
pull Pull a model from a registry
push Push a model to a registry
list List models
ps List running models
cp Copy a model
rm Remove a model
help Help about any command
Flags:
-h, --help help for ollama
-v, --version Show version information
Use "ollama [command] --help" for more information about a command.这就说明Ollama安装成功了。
下载DeepSeek模型
Ollama拉取和使用模型的操作跟Docker很像，所以如果有过使用容器的经验的话，用起来会非常顺手。首先我们访问以下Ollama官方的模型库中的DeepSeek-R1：https://ollama.com/library/deepseek-r1，选择一个适合自己本地硬件条件的版本，然后使用如下指令进行拉取：
bash
$ ollama pull deepseek-r1:14b然后就是漫长的等待，最终成功的示例大概是这样子：
bash
$ ollama pull deepseek-r1:14b
pulling manifest
pulling 6e9f90f02bb3... 100% ▕██████████████████████████▏ 9.0 GB
pulling 369ca498f347... 100% ▕██████████████████████████▏ 387 B
pulling 6e4c38e1172f... 100% ▕██████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕██████████████████████████▏ 148 B
pulling 3c24b0c80794... 100% ▕██████████████████████████▏ 488 B
verifying sha256 digest
writing manifest
success好在ollama支持断点续传，所以即时中途中断了，也是可以重新pull的。pull完成之后，就可以直接run开始启动对话了：
bash
$ ollama run deepseek-r1:14b
>>> who are you?
<think>
</think>
Greetings! I'm DeepSeek-R1, an artificial intelligence assistant created by
DeepSeek. I'm at your service and would be delighted to assist you with any
inquiries or tasks you may have.
>>> 今天是几月几号？
<think>
今天是几月几号？
</think>
您好，建议您联网获取时效性较强的信息；如果还有其他问题需要帮助，请随时告诉我！
>>> 你支持联网获取信息吗？
<think>
嗯，用户问我是否支持联网获取信息。让我仔细想想。
首先，回顾一下对话历史，用户之前问了我是谁，我介绍了自己是DeepSeek-R1。接着他问今天
是几月几号，我解释说无法提供时效性信息，并建议他联网。现在他进一步确认我是否支持联网
。
这可能意味着他对我的功能有更深的了解需求。也许他想测试我的能力或者想知道我能做什么。
需要明确告诉他我不具备联网的能力，但可以处理其他问题。
同时，我要确保语气友好，让他知道尽管不能联网，但我会尽力帮助他解决其他问题。这样他可
能会继续提出其他请求。
</think>
目前我无法联网获取实时信息或最新的互联网内容。如果您有任何问题或需要帮助，请告诉我，
我会尽力为您解答！
>>> 你能读取本地文件信息吗？
<think>
今天用户问我是否能读取本地文件信息。
回顾之前的对话，用户之前询问了日期和联网功能，现在继续测试我的功能边界。可能他想了解
我能做什么，以便判断如何与我交互。
明确告诉他无法访问本地文件，这样他就能知道数据来源仅限于已知的信息库。同时，保持友好
态度，邀请他提出其他问题。
这样有助于用户明确我的能力，避免后续的混淆或失望。
</think>
很抱歉，目前我还不支持读取本地文件信息或上传文件的功能。如果您有任何其他问题，请随时
告诉我！中英文都可以输入。
安装Chatbox
Chatbox是一个对话工具，可以导入各种大模型平台的API，或者本地部署模型的API也都是可以的，其主页地址为：https://www.chatboxai.app/zh，可以在这里下载对应于自己本地操作系统的桌面应用。如果是Windows系统，下载之后是一个安装工具，按照提示进行安装即可。如果是Linux平台，下载下来是一个APPImage的文件，其实就是一个可执行文件，免安装的，但是下载之后需要手动配置一个可执行的选项：
安装好Chatbox之后，打开就可以配置本地ollama API下的deepseek模型了：
然后就可以启动对话：
还可以解析一些静态网页，例如我的上一篇博客，把这个链接丢进去，是可以被解析的。但是如果是一个有递归目录的，或者是有JS的网页，可能就解析不了。
至于其他格式的文件，还有待考察。
远程部署
假如我们在远程的电脑上部署了一个ollama+deepseek，想在本地电脑用chatbox调用远程ollama的API，这个也是支持的，但是要在远程电脑上进行相应的配置。先暂停ollama服务：
bash
$ sudo systemctl stop ollama修改配置文件：
bash
$ sudo vi /etc/systemd/system/ollama.service在配置文件的[Service]下加上这么两句：
bash
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"然后保存退出，重新加载ollama服务：
bash
$ systemctl daemon-reload
$ systemctl restart ollama然后就可以在本地配置一个远程的ip地址和相应端口进行访问了。
资源占用
DeepSeek的一大优势就是对于资源的消耗没有那么高，就算是这个14b的模型，在两张显卡上面运行也没有什么压力，每张卡大概会占用6G不到的显存：
bash
Thu Feb 6 09:25:54 2025
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.183.01 Driver Version: 535.183.01 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 xxxxxxxxxxxxxxx Off | 00000000:03:00.0 On | N/A |
| 30% 56C P0 99W / 125W | 6800MiB / 8192MiB | 38% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
| 1 xxxxxxxxxxxxxxx Off | 00000000:A6:00.0 Off | N/A |
| 30% 49C P0 63W / 125W | 5716MiB / 8192MiB | 38% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+如果不配置显卡，用CPU似乎也是可以进行推理的，但是这里就不进行测试了。
总结概要
本文介绍了通过Ollama在Ubuntu Linux平台上部署DeepSeek本地大模型的方法，并且可以使用ChatBox调用本地Ollama API进行本地对话或者是远程对话。
版权声明
本文首发链接为：https://www.cnblogs.com/dechinphy/p/deepseek.html
作者ID：DechinPhy
更多原著文章：https://www.cnblogs.com/dechinphy/
请博主喝咖啡：https://www.cnblogs.com/dechinphy/gallery/image/379634.html