DeepSeek-R1本地部署笔记

文章目录

  • 效果
  • 概要
  • [下载 ollama](#下载 ollama)
  • 终端下载模型
  • [【可选】浏览器插件 UI](#【可选】浏览器插件 UI)
  • [Q: 内存占用高,显存占用不高,正常吗](#Q: 内存占用高,显存占用不高,正常吗)

效果

我的配置如下

E5 2666 V3 + AMD 590Gme

可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试


概要

  • 安装 ollama
  • 终端下载模型
  • 【可选】下载UI

下载 ollama

打开 https://ollama.com ,选择对应的操作系统


终端下载模型

根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1

安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤

bash 复制代码
ollama run deepseek-r1

【可选】浏览器插件 UI

插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1

下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面

选择下载的模型

然后再 RAG 设置中选择文本嵌入模型

Q: 内存占用高,显存占用不高,正常吗

相关推荐
qq_2842740511 小时前
机械原理笔记:平面机构自由度计算(复合铰链、局部自由度、虚约束)与四杆机构入门(含考点)
笔记·学习·平面·自动化·制造
qq_2842740512 小时前
数控铣床与加工中心笔记:铣刀与刀柄系统、G54试切对刀、镜像加工指令、孔加工工艺(钻扩铰镗)与固定循环G73/G83/G81/G76/G87/G84
笔记·学习·自动化·制造
Titan202413 小时前
MySQL访问个人学习笔记
笔记·学习·mysql
深圳老胡14 小时前
STM32CubeMX 生成 CMake 工程,用 VSCode 编译与调试的完整流程
笔记·stm32·单片机·代码规范
坤坤子吖14 小时前
C++智能指针:RAII、shared_ptr与内存泄漏
开发语言·c++·笔记·学习
乐橙开放平台15 小时前
智慧连锁客流检测和离岗检测怎么对接
大数据·人工智能·笔记·物联网·自动化·音视频·智能家居
零基础12315 小时前
FinalShell 使用教程:从安装到高效运维
运维·经验分享·笔记·finalshell
ACP广源盛1392462567315 小时前
Type‑C 扩展坞方案选型笔记|国产 DP1.4 转 HDMI2.0 桥接芯片 GSV2201S @ACP评估
c语言·开发语言·笔记·硬件架构·硬件工程·国产芯片
敲个大西瓜16 小时前
langchain笔记(一)
redis·笔记·langchain
带金箍的至尊宝16 小时前
系统架构设计师笔记 05:第2章硬件与软件基础,冯诺依曼结构怎么考
数据库·笔记·系统架构