学习本地部署DeepSeek的过程(基于LM Studio)

除了使用Ollama部署DeepSeek,还可以使用LM Studio部署DeepSeek,后者是一款允许用户在本地计算机上运行大型语言模型(LLMs)的桌面应用程序,旨在简化本地模型的使用,无需云端连接或复杂配置即可体验 AI 功能。本文学习并记录基于LM Studio部署DeepSeek的过程。
  登录lmstudio官网,下载并安装LM Studio软件,如下图所示。




  运行 LM Studio,第一次启动时会显示下图所示界面,点击右上角的"Skip onboarding"直接进入主界面。

  点击主界面左侧的"发现"图标(图标为一放大镜),点击左下角的App Settings按钮,可以在右侧设置语言、主题等设置。

  在同一界面,点击左上角的Model Search标签,在左侧按需搜索模型文件,本文中选择了配置要求较低的deepseek-r1-distill-qwen-1.5b模型,然后点击右下角的Download按钮下载并加载模型。


  点击主界面左侧第一个聊天图标,在下图圈红处下拉选择模型,本文测试过程中会提示模型加载失败,报"Exit code: 18446744072635812000"的错误。

  百度上述错误信息,找到参考文献3,提示可能是选择的运行时有问题。在主界面左侧点击发现图标,然后点击Runtime标签,在右下侧的配置运行环境中将GGUF设置为"CPU llama.cpp (Windows)。

  再切换回聊天页面,在页面上方选择模型,然后就可以正常和本地模型对话了。

参考文献:

1\]https://lmstudio.ai/ \[2\]https://blog.csdn.net/hj960511/article/details/145390784 \[3\]https://blog.csdn.net/huangyabin001/article/details/145817292

相关推荐
奔跑吧邓邓子3 小时前
DeepSeek 赋能智能零售,解锁动态定价新范式
人工智能·动态定价·智能零售·deepseek
bin915310 小时前
DeepSeek 助力 Vue3 开发:打造丝滑的日历(Calendar),日历_天气预报日历示例(CalendarView01_18)
前端·javascript·vue.js·ecmascript·deepseek
橙某人1 天前
🤝和Ollama贴贴!解锁本地大模型的「私人订制」狂欢🎉
前端·deepseek
奔跑吧邓邓子1 天前
DeepSeek 赋能金融衍生品:定价与风险管理的智能革命
人工智能·金融衍生品·deepseek·金融市场·定价与风险管理
hresh1 天前
通辽宇宙知识库:从洗澡灵感到AI协作开发的全流程实践
aigc·ai编程·deepseek
道可云2 天前
道可云人工智能每日资讯|北京农业人工智能与机器人研究院揭牌
人工智能·机器人·ar·deepseek
webmote332 天前
DeepSeek私域数据训练之封装Anything LLM的API 【net 9】
.net·api·deepseek
小虚竹2 天前
1.6万字测评:deepseek-r1-0528横向对比 gemini-2.5-pro-0506和claude4
claude·gemini·deepseek
程序员海军2 天前
从懵懂到落地:记录我们第一次成功将大模型“塞”进业务的曲折历程
前端·后端·deepseek