搭建本地deepseek大模型

文章目录

本地搭建

如何本地搭建deepseek等大模型,这个是个好玩的事情;一直在网页玩,不知道里边都有啥,也不知道自己该做些什么,这里写下流程,学习学习。

1.LM Studio

先去下载LM Studio,这个具体怎么做,直接去这里下载;然后就是安装,具体安装流程,不多说了。

去设置页面,找到下边页面,

找到自己需要的模型,然后下载即可。

2.本地聊天

下载完之后,关掉刚才的界面,然后回到如下界面:

选择自己要加载的模型,然后可以去聊天,因为我这只有deepseek和千问的模型。

3.例子

举个例子,我这问他怎么去搭建一个关于本地deepseek大模型的博客,如下图,就出来了:

小结

其实,搭建挺简单的,只要会用合适的工具,随着社会的发展,这块会越来越没有门槛,只不过,我还是要写一篇,记录下过程。有兴趣,还是要去学习下底层,比如,C++,有兴趣,可以去这里看看;有机会,写篇怎么用Ollama搭建本地大模型。

相关推荐
2601_967987371 小时前
Python类变量和实例变量(类属性和实例属性)
python·类变量·实例变量·类属性·实例属性
CyrusYiVPP1 小时前
新用户第二周还剩几个?pandas做留存率cohort分析,数据分析实战第6期
人工智能·python
岁月宁静11 小时前
五、《从零手撸 Agent》 — 什么是 Agent:从“会聊天”到“会做事”,差的就是一个循环
python·agent
梯度下降者12 小时前
Python - 函数
python·高阶函数·可调用对象·functools·嵌套作用域
starzy199014 小时前
深入理解Scala隐式参数:上下文流转
开发语言·python·scala
wuyk55515 小时前
Spider-第16讲-线程池与竞态问题
大数据·爬虫·python·elasticsearch·搜索引擎
kyle~21 小时前
FastAPI --- 将业务能力以 API 的形式提供给外部系统
python·fastapi·前后端
aiotto资源分享21 小时前
Python 写 JSON 文件,程序中途退出会留下什么?
java·python·json·jsondecodeerror
梯度下降者1 天前
Python信号量,条件变量,事件学习
python·条件变量·事件·信号量·线程通信
MSTcheng.1 天前
【AI应用实战】用 FastAPI + SSE 做一个自己的 AI 聊天网页:流式输出、多轮对话与完整源码
人工智能·python·大模型·fastapi·sse·ai聊天助手