DeepSeek-R1本地部署笔记

文章目录

  • 效果
  • 概要
  • [下载 ollama](#下载 ollama)
  • 终端下载模型
  • [【可选】浏览器插件 UI](#【可选】浏览器插件 UI)
  • [Q: 内存占用高,显存占用不高,正常吗](#Q: 内存占用高,显存占用不高,正常吗)

效果

我的配置如下

E5 2666 V3 + AMD 590Gme

可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试


概要

  • 安装 ollama
  • 终端下载模型
  • 【可选】下载UI

下载 ollama

打开 https://ollama.com ,选择对应的操作系统


终端下载模型

根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1

安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤

bash 复制代码
ollama run deepseek-r1

【可选】浏览器插件 UI

插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1

下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面

选择下载的模型

然后再 RAG 设置中选择文本嵌入模型

Q: 内存占用高,显存占用不高,正常吗

相关推荐
星星火柴9364 小时前
关于“双指针法“的总结
数据结构·c++·笔记·学习·算法
Cx330❀6 小时前
【数据结构初阶】--排序(五):计数排序,排序算法复杂度对比和稳定性分析
c语言·数据结构·经验分享·笔记·算法·排序算法
小幽余生不加糖7 小时前
电路方案分析(二十二)适用于音频应用的25-50W反激电源方案
人工智能·笔记·学习·音视频
..过云雨7 小时前
01.【数据结构-C语言】数据结构概念&算法效率(时间复杂度和空间复杂度)
c语言·数据结构·笔记·学习
岑梓铭8 小时前
考研408《计算机组成原理》复习笔记,第五章(3)——CPU的【数据通路】
笔记·考研·408·计算机组成原理·计组
Blossom.11814 小时前
把 AI 推理塞进「 8 位 MCU 」——0.5 KB RAM 跑通关键词唤醒的魔幻之旅
人工智能·笔记·单片机·嵌入式硬件·深度学习·机器学习·搜索引擎
草莓熊Lotso15 小时前
《吃透 C++ 类和对象(中):const 成员函数与取地址运算符重载解析》
c语言·开发语言·c++·笔记·其他
玖別ԅ(¯﹃¯ԅ)16 小时前
PID学习笔记6-倒立摆的实现
笔记·stm32·单片机
想学全栈的菜鸟阿董17 小时前
Django5个人笔记
笔记
ZZHow10241 天前
JavaWeb开发_Day05
java·笔记·web