Ubuntu中部署deepseek

deepseek-r1:1.5b版本可以在CPU上运行

1.安装ollama

1.1更新系统包

bash 复制代码
sudo apt update
sudo apt upgrade -y

1.2 安装依赖

bash 复制代码
sudo apt install -y curl git

1.3 下载并安装 Ollama

Ollama 通常通过脚本安装。你可以使用以下命令下载并运行安装脚本:

bash 复制代码
curl -fsSL https://ollama.ai/install.sh | sh

1.4 Ollama 服务管理

bash 复制代码
# 启动
sudo systemctl enable ollama
# 查看状态
sudo systemctl status ollama
# 更新 Ollama
curl -fsSL https://ollama.ai/install.sh | sh
# 卸载 Ollama
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm -rf /usr/local/bin/ollama
sudo rm -rf /etc/systemd/system/ollama.service

2安装deepseek

登陆官网 https://ollama.com,选择Model菜单,选择deepseek-r1,复制命令,如7b模型命令如下

bash 复制代码
ollama run deepseek-r1:7b

把以上代码在命令终端运行,就会下载deepseek 7b模型,下载完成之后就会执行运行起来,你就可以直接与大模型对话了。

相关推荐
数据智能老司机18 小时前
构建一个 DeepSeek 模型——通过键值缓存(Key-Value Cache, KV Cache)解决推理瓶颈
架构·llm·deepseek
武子康1 天前
AI研究-119 DeepSeek-OCR PyTorch FlashAttn 2.7.3 推理与部署 模型规模与资源详细分析
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
OpenBayes3 天前
OCR 新范式!DeepSeek 以「视觉压缩」替代传统字符识别;Bald Classification数据集助力高精度人像分类
人工智能·深度学习·分类·数据挖掘·ocr·数据集·deepseek
安如衫3 天前
【学习笔记更新中】Deeplearning.AI 大语言模型后训练:微调与强化学习导论
人工智能·llm·sft·后训练·deepseek
realhuizhu3 天前
周报写了2小时还被挑刺?试试这个AI生成框架
ai提示词·deepseek·工作周报·职场效率·周报生成器
l1t3 天前
利用DeepSeek采用hugeint转字符串函数完善luadbi-duckdb的decimal处理
数据库·lua·c·duckdb·deepseek
Mr.Lee jack3 天前
【CUDA 编程思想】FwdKvcacheMla 算子详细数据流程讲解
deepseek
武子康3 天前
AI研究-121 DeepSeek-OCR 研究路线:无限上下文、跨模态抽取、未来创意点、项目创意点
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
嗷嗷哦润橘_4 天前
集群网络技术1:RDMA和相关协议
网络·阿里云·deepseek
武子康4 天前
AI研究-120 DeepSeek-OCR 从 0 到 1:上手路线、实战要点
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr