五分钟让你本地部署一个 DeepSeek (快速指北)

前言

为什么会写这篇文章,原因有二:

  1. 最近看到 TB 上面这个教程竟然卖 19.9 元,卖了近百万。于是我做了一个违背xx的决定!!!

  2. 还有一个原因是,最近这个 deepseek 被攻击之后,总是报 "服务器繁忙,请稍后再试。" 这种错误,非常影响我的心情。

简单介绍

本文主要使用两个应用,一个 Ollama,还有一个是 chatboxai。安装这两个应用,基本上就完成了80%的工作(虽然不到五分钟就可以完成整个搭建)。

当然这里肯定用到了 deepseek,在我的上一篇文章中已然讲过,就不再赘述了。

Ollama 是什么?

Ollama 是一个开源的大型语言模型(LLM)平台,旨在让用户能够轻松地在本地运行、管理和与大型语言模型进行交互。

Ollama 提供了一个简单的方式来加载和使用各种预训练的语言模型,支持文本生成、翻译、代码编写、问答等多种自然语言处理任务。

Ollama 的特点在于它不仅仅提供了现成的模型和工具集,还提供了方便的界面和 API,使得从文本生成、对话系统到语义分析等任务都能快速实现。

摘自 runoob.com 介绍,不多说了,直接开始安装。

安装 Ollama

可以在 ollama.com/download 进行下载。

安装完后,点击运行后,可以在右上角可以看到一个羊驼标志。说明你已经安装完成了。

筛选 deepseek 模型

继续在 ollama 上面的搜索栏找到 DeepSeek 模型。

需要根据自身电脑配置来进行选择模型,想我这个是 M1 的 8G,只能选择最小的 r1:1.5b模型。

记住量力而行!不然浪费时间!

然后参照下面的模型选型策略,找到你电脑能最大限度支持的模型。

模型参数 基础内存需求 推理内存需求区间
1.5B 3GB 6-9GB
7B 14GB 28-42GB
8B 16GB 32-48GB
14B 28GB 56-84GB
32B 64GB 128-192GB
70B 140GB 280-420GB
671B 1.34TB 2.68-4TB

开始安装 DeepSeek

在终端执行对应模型的安装命令。大约2~3分钟(视网络情况而定)。

安装完成

安装完成之后,可以直接在终端输入你的问题,可以看到下面,我问了 deepseek-r1:1.5b 一个问题。

vbnet 复制代码
Q: Hi, who are you?

A: Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by
DeepSeek. I'm at your service and would be delighted to assist you with
any inquiries or tasks you may have.

chatboxai 是什么?

chatboxai 是一款专业的聊天机器人应用,它能够根据用户的输入生成相应的文本回复,从而构建一个自然流畅的对话。这种技术属于人工智能领域中的自然语言处理(NLP)技术的应用,旨在提升用户与AI之间的互动体验和信息传递效率。

我理解的作用,无非就是可以直接界面化的使用模型,主要是可以调用本地模型。

安装 chatboxai

可以使用 chatboxai.app/zh 下载这个软件,主要可以直接选择本地模型,进行问答。当然现在 vscode 和一些编辑器,也有类似的插件,能够直接选择本地模型进行辅助编码也是同理。

运行 chatboxai

打开后,直接点击下面的"使用自己的 API Key 或本地模型"。

配置模型

选择 Ollama API,随后在下面的模型中找到你本地安装的 deepseek-r1:1.5b

尝试使用

可以看到,已经正常回复,但是因为1.5b参数不够多,所以回答的内容可能没这么完美,所以大家可以通过对应的电脑环境进行选择不同的参数版本。

参考

ollama.com/

chatboxai.app/zh

www.runoob.com/ollama/olla...

www.deepseek.com/

相关推荐
程序猿阿伟16 分钟前
《重构工业运维链路:三大AI工具让设备故障“秒定位、少误判”》
运维·人工智能·重构
yueyuebaobaoxinx20 分钟前
聚焦技术落地,展现 AI 重构产业的实践路径。
人工智能·重构
算家云21 分钟前
Sora 2 的社交野心:AI 如何重构内容社交产品逻辑?
人工智能·openai·算家云·租算力,到算家云·sora 2·ai社交
知识分享小能手24 分钟前
微信小程序入门学习教程,从入门到精通,微信小程序常用API(上)——知识点详解 + 案例实战(4)
前端·javascript·学习·微信小程序·小程序·html5·微信开放平台
飞哥数智坊1 小时前
Qwen3 Omni 的“全模态”,到底和多模态有啥不一样?
人工智能
清灵xmf1 小时前
CSS field-sizing 让表单「活」起来
前端·css·field-sizing
文火冰糖的硅基工坊1 小时前
[光学原理与应用-480]:《国产检测设备对比表》
前端·人工智能·系统架构·制造·半导体·产业链
excel1 小时前
Qiankun 子应用生命周期及使用场景解析
前端
weixin_446260851 小时前
Django - 让开发变得简单高效的Web框架
前端·数据库·django
河南博为智能科技有限公司1 小时前
动力环境监控主机-全方位一体化监控解决方案
运维·服务器·人工智能·物联网·边缘计算