DeepSeek-R1本地部署笔记

文章目录

  • 效果
  • 概要
  • [下载 ollama](#下载 ollama)
  • 终端下载模型
  • [【可选】浏览器插件 UI](#【可选】浏览器插件 UI)
  • [Q: 内存占用高,显存占用不高,正常吗](#Q: 内存占用高,显存占用不高,正常吗)

效果

我的配置如下

E5 2666 V3 + AMD 590Gme

可以说是慢的一批了,内存和显卡都太垃圾了,回去用我的新设备再试试


概要

  • 安装 ollama
  • 终端下载模型
  • 【可选】下载UI

下载 ollama

打开 https://ollama.com ,选择对应的操作系统


终端下载模型

根据显卡的显存去选择多大的模型 https://ollama.com/library/deepseek-r1

安装好之后,在终端里就可以输入问题了,如果新开一个终端窗口的话,可以输入如下命令去召唤

bash 复制代码
ollama run deepseek-r1

【可选】浏览器插件 UI

插件市场有个这个插件 https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo?pli=1

下载完之后可以点击浏览器上面的插件按钮,跳转到如下页面

选择下载的模型

然后再 RAG 设置中选择文本嵌入模型

Q: 内存占用高,显存占用不高,正常吗

相关推荐
疯狂打码的少年2 小时前
【计算机网络】子网掩码与子网划分计算(含CIDR表示法)
服务器·笔记·计算机网络·php
自小吃多4 小时前
PCB Editor软件复制、改变、删除操作笔记
笔记·嵌入式硬件
动词ing6 小时前
【学习笔记】数据结构栈与队列(栈先进后出+队列先进先出+括号匹配+消消乐模型)
数据结构·笔记·学习
彧azz6 小时前
Git 入门实操实例:从安装到远程仓库全流程
大数据·笔记·git·学习·elasticsearch
David猪大卫7 小时前
【C++修炼】哈希表的实现
数据结构·c++·笔记·学习·算法·哈希算法·散列表
江湖人称菠萝包8 小时前
【Windows】《深入浅出Windows API程序设计:核心编程篇》笔记-Chapter6-动态链接库
windows·笔记
宵时待雨8 小时前
linux笔记归纳18:传输层协议TCP
linux·网络·笔记·网络协议·tcp/ip
逆境不可逃8 小时前
Pi Agent 学习笔记:一次提问背后的工具调用循环
java·笔记·学习
Ztt6666666669 小时前
紫釉高筒壶向上收紧,修长器身更显精神
经验分享·笔记·其他·百度·微信公众平台
疯狂打码的少年9 小时前
【计算机网络】UDP协议与TCP/UDP对比(面向连接vs无连接)
笔记·tcp/ip·计算机网络·udp