【DeepSeek】本地部署,保姆级教程

deepseek网站链接传送门:DeepSeek

在这里主要介绍DeepSeek的两种部署方法,一种是调用API,一种是本地部署。

一、API调用

1.进入网址Cherry Studio - 全能的AI助手选择立即下载

2.安装时位置建议放在其他盘,不要放c盘

3.进入软件后,如果你的语言是英文的,可以选择设置,在常规设置这里调整语言。

4.选择设置,选择模型服务,输入你的API秘钥(如果没有,在下面第四条有申请方法),点击检查即可。

5.向下拉选择管理按钮,在嵌入勾选最后一个(知识库要用到),全部里也可以选择你要用的模型。

6.之后就可以在聊天中进行使用

二、知识库使用

1.添加一个新的知识库

2.在知识库可以上传你的文件

3.在聊天对话页面勾选知识库,便可以根据知识库内容回答问题

三、本地算力部署

1.安装LM Studio软件,根据你的电脑系统下载相应安装包

2.下载后按照流程步骤安装,建议不要安装在c盘,安装后页面如下

3.刚开始为英文,点击右下角设置,语言可以调整为中文

4.点击我的模型,点击搜索按钮,可以在线安装开源模型(需要魔法,下载速度慢)

如果无法从这里安装,也可以先下载好模型,之后导入进行使用。

模型下载地址:魔搭社区

依据你的电脑性能下载模型14B、32B,性能差点选7B

点击模型文件,依据你的电脑性能任选一个下载

新建一个文件夹,比如我在G盘新建个DeepSeek文件夹,文件夹下再新建models文件夹,将我们下载的模型文件放到models文件夹下

将模型目录这里的地址调整为G:DeepSeek文件夹(创建的文件夹地址)

点击聊天,选择刚下载的模型

依据你的电脑性能自行调节,拉的高效果好,但会卡顿

加载模型后便可以本地使用了。

四、API申请

账号登录地址如下:

硅基流动统一登录

点击秘钥,选择新建秘钥,便可以获得自己的秘钥。

相关推荐
北'辰10 小时前
DeepSeek智能考试系统智能体
前端·后端·架构·开源·github·deepseek
产品经理独孤虾20 小时前
流程优化点识别与分析:从混沌到清晰的产品体验突破法
人工智能·产品经理·需求分析·产品设计·提示词工程·deepseek·业务流程优化
科大饭桶1 天前
AI大模型专题:LLM大模型(Prompt提示词工程)
人工智能·语言模型·llm·prompt·deepseek
高克莱3 天前
【macOS操作系统部署开源DeepSeek大模型,搭建Agent平台,构建私有化RAG知识库完整流程】
macos·llm·agent·知识库·anythingllm·ollama·deepseek
袁庭新3 天前
五大提示词撰写原则
llm·aigc·deepseek
递归尽头是星辰3 天前
大模型与Spring AI的无缝对接:从原理到实践
人工智能·大模型·spring ai·deepseek
IT闫3 天前
【AI】——SpringAI通过Ollama本地部署的Deepseek模型实现一个对话机器人(二)
人工智能·deepseek
AI大模型5 天前
《大模型技术30讲》——从原理到实战的终极指南
程序员·llm·deepseek
Shinpei6 天前
如何在AI流式数据中渲染mermaid图表
前端·deepseek
charlee446 天前
PandasAI连接LLM对MySQL数据库进行数据分析
mysql·数据分析·nlp·pandasai·deepseek