DeepSeek-R1本地部署笔记

文章目录

  • 效果
  • 概要
  • [下载 ollama](#下载 ollama)
  • 终端下载模型
  • [【可选】浏览器插件 UI](#【可选】浏览器插件 UI)
  • [Q: 内存占用高,显存占用不高,正常吗](#Q: 内存占用高,显存占用不高,正常吗)

效果

我的配置如下

E5 2666 V3 + AMD 590Gme

可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试


概要

  • 安装 ollama
  • 终端下载模型
  • 【可选】下载UI

下载 ollama

打开 https://ollama.com ,选择对应的操作系统


终端下载模型

根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1

安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤

bash 复制代码
ollama run deepseek-r1

【可选】浏览器插件 UI

插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1

下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面

选择下载的模型

然后再 RAG 设置中选择文本嵌入模型

Q: 内存占用高,显存占用不高,正常吗

相关推荐
数据轨迹001几秒前
AAAI AMD:多尺度预测MLP反杀Transformer
经验分享·笔记·facebook·oneapi·twitter
Aliex_git1 分钟前
性能优化 - Vue 日常实践优化
前端·javascript·vue.js·笔记·学习·性能优化
Yu_Lijing6 分钟前
基于C++的《Head First设计模式》笔记——抽象工厂模式
c++·笔记·设计模式
创作者mateo8 分钟前
PyTorch 入门学习笔记(实战篇)二
pytorch·笔记·学习
HuDie3409 分钟前
因果推断与AB实验
笔记
逑之12 分钟前
C语言笔记8:操作符
c语言·开发语言·笔记
优雅的潮叭25 分钟前
c++ 学习笔记之 模板元编程
c++·笔记·学习
九成宫27 分钟前
计算机网络期末复习——第3章:运输层 Part One
网络·笔记·计算机网络·软件工程
xian_wwq30 分钟前
【学习笔记】网络安全L3级模型功能解析
笔记·学习·安全
逑之34 分钟前
C语言笔记2:C语言数据类型和变量
c语言·开发语言·笔记