本地化部署deepseek

准备:

工具 名称 网址
部署模型的工具 OLLAMA Ollama
可视化界面工具 CHATBOX Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

一、下载OLLAMA

进入网址:https://ollama.com/

直接打开官网下载,为了防止下载缓慢,复制链接用迅雷下载。

下载好之后,点击安装,安装Ollama不停点下一步等待安装完成。

二、环境变量配置:

Ollama允许外部环境访问接口:

vbnet 复制代码
OLLAMA_HOST:0.0.0.0:11434

修改Ollama模型的存储路径,默认存在C盘,这里可以改在E盘

vbscript 复制代码
OLLAMA_MODELS:E:\ollamaModels

安装完成后,打开命令行, ollama -v查看版本

三、下载Deepseek模型

再次回到ollama官网,

根据电脑的配置不同选择不同模型下载。

模型与电脑配置说明

命令行运行:

vbnet 复制代码
ollama run deepseek-r1:1.5b

然后就可以通过命令行进行对话。

四、安装可视化界面工具

由于命令行操作不方便,可以借助第三方可视化工具进行操作

4.1、CHATBOX

下载好之后,直接安装

直接打开设置,配置如下相关,就可以创建新的对话。

后续自己需求,使用其他可视化工具

相关推荐
belingud3 小时前
不同模型回答差异的简单探讨
chatgpt·claude·deepseek
云道轩1 天前
DeepSeek补全IBM MQ 9.4 REST API 执行命令的PPT
deepseek·ibm mq
算家计算2 天前
DeepSeek R2因芯片问题再次延迟发布!千亿级大模型训练的算力之困
人工智能·芯片·deepseek
AI大模型3 天前
手把手教你本地部署DeepSeek:解锁私有化AI的无限可能
程序员·llm·deepseek
量子位3 天前
被曝蒸馏DeepSeek还造假!欧版OpenAI塌房了
openai·deepseek
Spider_Man4 天前
和AI畅聊不掉线:本地部署LLM聊天界面全攻略
javascript·llm·deepseek
Chaos_Wang_6 天前
ShadowKV 机制深度解析:高吞吐长上下文 LLM 推理的 KV 缓存“影子”方案
人工智能·语言模型·自然语言处理·chatgpt·deepseek
玄明Hanko6 天前
DeepSeek是不是名不副实?
人工智能·deepseek
知了一笑6 天前
AI编程:代码多,效果好?
人工智能·大模型·kimi·千问·deepseek