Ubuntu环境通过Ollama部署DeepSeek-R1模型教程

Ollama 是一个专注于简化模型部署和推理的工具,特别适合在生产环境中快速部署和运行模型。

以下是如何使用 Ollama 来安装、部署和使用模型的步骤:


一. 安装 Ollama

首先,你需要安装 Ollama。Ollama 通常支持多种平台(如 Linux、macOS 和 Windows)。你可以通过以下方式安装:

在 Linux 或 macOS 上安装:
bash 复制代码
curl -fsSL https://ollama.ai/install.sh | sh

上面命令会下载ollama并自动启动,但是如果系统不支持systemd,会出现下面的异常,需要手动重启。

手动启动ollama命令,执行下面命令前,需要确定ollama是否已经启动,要不会端口冲突。

bash 复制代码
ollama serve &

二. 下载模型并启动

Ollama 支持从模型仓库中直接下载预训练模型。你可以通过以下命令下载:

选择一个自己使用的版本就行,以下是不同步版本的下载并启动命令:

bash 复制代码
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b

安装成功和体验


四. 检查 Ollama 日志

查看 Ollama 的日志文件

查看日志:
  • 日志文件通常位于 ~/.ollama/logs//var/log/ollama.log

  • 运行以下命令查看日志:

    bash 复制代码
    tail -f ~/.ollama/logs/server.log
  • 根据日志中的错误信息进一步排查问题。


5. 重新安装 Ollama

如果服务无法启动,可能是安装过程中出现了问题。可以尝试重新安装 Ollama。

卸载 Ollama:
bash 复制代码
sudo rm -rf /usr/local/bin/ollama
sudo rm -rf ~/.ollama
重新安装:
bash 复制代码
curl -fsSL https://ollama.ai/install.sh | sh

总结

使用 Ollama 可以大大简化模型的部署和推理过程,特别适合在生产环境中快速集成和运行模型。


六. 问题

1、-bash: curl: command not found
复制代码
sudo apt update
sudo apt install curl
2、-bash: sudo: command not found
复制代码
apt update
apt install sudo
3、Error: could not connect to ollama app, is it running?

这个错误提示表明 Ollama 服务没有启动

复制代码
ollama serve
4、Error: listen tcp 127.0.0.1:11434: bind: address already in use

查看端口冲突的进程

复制代码
sudo lsof -i :11434

然后kill掉进程

复制代码
kill -9 1234
5、sudo: lsof: command not found
复制代码
sudo apt update
sudo apt install lsof
相关推荐
仙柒4151 天前
Docker原理
运维·docker·容器
米高梅狮子1 天前
第2章 docker容器
运维·docker·云原生·容器·架构·kubernetes·自动化
kidwjb1 天前
信号量在进程中的使用
linux·进程间通信
闵孚龙1 天前
Claude Code Ultraplan 远程多代理规划全解析:AI Agent、CCR远程容器、异步规划、状态机、计划传送与企业级自动化治理
运维·人工智能·自动化
sulikey1 天前
个人Linux操作系统学习笔记2 - gcc与库的理解
linux·笔记·学习·操作系统·gcc·
二宝哥1 天前
Linux虚拟机网络配置
linux·运维·服务器
卧室小白1 天前
docker网络与服务编排与集群
运维·docker·容器
陳10301 天前
Linux:进程间通信 和 简单进程池
linux·运维·服务器
数字化顾问1 天前
(122页PPT)数字化架构的演进和治理(附下载方式)
java·运维·架构
jimy11 天前
改.bashrc,直观地判断本地repo是否有改动
linux·服务器