【DeepSeek】本地部署,保姆级教程

deepseek网站链接传送门:DeepSeek

在这里主要介绍DeepSeek的两种部署方法,一种是调用API,一种是本地部署。

一、API调用

1.进入网址Cherry Studio - 全能的AI助手选择立即下载

2.安装时位置建议放在其他盘,不要放c盘

3.进入软件后,如果你的语言是英文的,可以选择设置,在常规设置这里调整语言。

4.选择设置,选择模型服务,输入你的API秘钥(如果没有,在下面第四条有申请方法),点击检查即可。

5.向下拉选择管理按钮,在嵌入勾选最后一个(知识库要用到),全部里也可以选择你要用的模型。

6.之后就可以在聊天中进行使用

二、知识库使用

1.添加一个新的知识库

2.在知识库可以上传你的文件

3.在聊天对话页面勾选知识库,便可以根据知识库内容回答问题

三、本地算力部署

1.安装LM Studio软件,根据你的电脑系统下载相应安装包

2.下载后按照流程步骤安装,建议不要安装在c盘,安装后页面如下

3.刚开始为英文,点击右下角设置,语言可以调整为中文

4.点击我的模型,点击搜索按钮,可以在线安装开源模型(需要魔法,下载速度慢)

如果无法从这里安装,也可以先下载好模型,之后导入进行使用。

模型下载地址:魔搭社区

依据你的电脑性能下载模型14B、32B,性能差点选7B

点击模型文件,依据你的电脑性能任选一个下载

新建一个文件夹,比如我在G盘新建个DeepSeek文件夹,文件夹下再新建models文件夹,将我们下载的模型文件放到models文件夹下

将模型目录这里的地址调整为G:DeepSeek文件夹(创建的文件夹地址)

点击聊天,选择刚下载的模型

依据你的电脑性能自行调节,拉的高效果好,但会卡顿

加载模型后便可以本地使用了。

四、API申请

账号登录地址如下:

硅基流动统一登录

点击秘钥,选择新建秘钥,便可以获得自己的秘钥。

相关推荐
OpenBayes1 天前
OCR 新范式!DeepSeek 以「视觉压缩」替代传统字符识别;Bald Classification数据集助力高精度人像分类
人工智能·深度学习·分类·数据挖掘·ocr·数据集·deepseek
安如衫1 天前
【学习笔记更新中】Deeplearning.AI 大语言模型后训练:微调与强化学习导论
人工智能·llm·sft·后训练·deepseek
realhuizhu2 天前
周报写了2小时还被挑刺?试试这个AI生成框架
ai提示词·deepseek·工作周报·职场效率·周报生成器
l1t2 天前
利用DeepSeek采用hugeint转字符串函数完善luadbi-duckdb的decimal处理
数据库·lua·c·duckdb·deepseek
Mr.Lee jack2 天前
【CUDA 编程思想】FwdKvcacheMla 算子详细数据流程讲解
deepseek
武子康2 天前
AI研究-121 DeepSeek-OCR 研究路线:无限上下文、跨模态抽取、未来创意点、项目创意点
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
嗷嗷哦润橘_2 天前
集群网络技术1:RDMA和相关协议
网络·阿里云·deepseek
武子康3 天前
AI研究-120 DeepSeek-OCR 从 0 到 1:上手路线、实战要点
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
血小溅3 天前
Spring Boot 整合 Spring AI:接入 DeepSeek 与 Ollama 调用大模型
后端·ollama·deepseek
视觉&物联智能3 天前
【杂谈】-制造业变革:机器人与自动化引领新时代
人工智能·ai·机器人·自动化·aigc·agi·deepseek