DeepSeek-R1本地部署笔记

文章目录

  • 效果
  • 概要
  • [下载 ollama](#下载 ollama)
  • 终端下载模型
  • [【可选】浏览器插件 UI](#【可选】浏览器插件 UI)
  • [Q: 内存占用高,显存占用不高,正常吗](#Q: 内存占用高,显存占用不高,正常吗)

效果

我的配置如下

E5 2666 V3 + AMD 590Gme

可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试


概要

  • 安装 ollama
  • 终端下载模型
  • 【可选】下载UI

下载 ollama

打开 https://ollama.com ,选择对应的操作系统


终端下载模型

根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1

安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤

bash 复制代码
ollama run deepseek-r1

【可选】浏览器插件 UI

插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1

下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面

选择下载的模型

然后再 RAG 设置中选择文本嵌入模型

Q: 内存占用高,显存占用不高,正常吗

相关推荐
千寻xun7 小时前
一、理论篇-NVME协议学习笔记
笔记·学习·fpga开发·nvme ssd·nvme协议
Piko61412 小时前
锐捷 VSU 虚拟化堆叠配置
运维·网络·笔记
AOwhisky13 小时前
Python 学习笔记(第三期)——流程控制:条件判断与循环结构
运维·笔记·python·学习·云原生·流程控制·循环
Piko61414 小时前
锐捷交换机 DHCP Server部署
运维·网络·笔记
取地址符15 小时前
Rust学习笔记(基于Rustlings)(2):数据结构与集合
笔记·学习·rust
A.零点16 小时前
期末复习,408考研数据结构:第一章绪论完整知识梳理与真题深度解读
c语言·数据结构·笔记·考研
EQ-雪梨蛋花汤16 小时前
【Unity笔记】VR 一体机画面锯齿、模型边缘闪烁、接缝抖动排查:MSAA、Mipmap、Render Scale、Z-Fighting 全流程记录
笔记·unity·vr
茯苓gao16 小时前
嵌入式开发笔记:工业机器人通信协议深度解析——从现场总线到工业以太网
笔记·嵌入式硬件·学习·机器人·信息与通信
取地址符16 小时前
Rust语法学习 (基于Rustlings)(1):基础语法
经验分享·笔记·学习·rust
不会调制解调的猫17 小时前
笔记 | 什么是 rp_filter(反向路径过滤)?
服务器·网络·笔记