学习本地部署DeepSeek的过程(基于LM Studio)

除了使用Ollama部署DeepSeek,还可以使用LM Studio部署DeepSeek,后者是一款允许用户在本地计算机上运行大型语言模型(LLMs)的桌面应用程序,旨在简化本地模型的使用,无需云端连接或复杂配置即可体验 AI 功能。本文学习并记录基于LM Studio部署DeepSeek的过程。
  登录lmstudio官网,下载并安装LM Studio软件,如下图所示。




  运行 LM Studio,第一次启动时会显示下图所示界面,点击右上角的"Skip onboarding"直接进入主界面。

  点击主界面左侧的"发现"图标(图标为一放大镜),点击左下角的App Settings按钮,可以在右侧设置语言、主题等设置。

  在同一界面,点击左上角的Model Search标签,在左侧按需搜索模型文件,本文中选择了配置要求较低的deepseek-r1-distill-qwen-1.5b模型,然后点击右下角的Download按钮下载并加载模型。


  点击主界面左侧第一个聊天图标,在下图圈红处下拉选择模型,本文测试过程中会提示模型加载失败,报"Exit code: 18446744072635812000"的错误。

  百度上述错误信息,找到参考文献3,提示可能是选择的运行时有问题。在主界面左侧点击发现图标,然后点击Runtime标签,在右下侧的配置运行环境中将GGUF设置为"CPU llama.cpp (Windows)。

  再切换回聊天页面,在页面上方选择模型,然后就可以正常和本地模型对话了。

参考文献:

1\]https://lmstudio.ai/ \[2\]https://blog.csdn.net/hj960511/article/details/145390784 \[3\]https://blog.csdn.net/huangyabin001/article/details/145817292

相关推荐
大模型真好玩4 天前
大模型训练全流程实战指南工具篇(七)——EasyDataset文档处理流程
人工智能·langchain·deepseek
Rockbean4 天前
用40行代码搭建自己的无服务器OCR
服务器·python·deepseek
爱吃的小肥羊5 天前
DeepSeek V4 细节曝光:100 万上下文 + 原生多模态
人工智能·aigc·deepseek
AC赳赳老秦5 天前
云原生AI故障排查新趋势:利用DeepSeek实现高效定位部署报错与性能瓶颈
ide·人工智能·python·云原生·prometheus·ai-native·deepseek
AI大模型..6 天前
Dify 本地部署安装教程(Windows + Docker),大模型入门到精通,收藏这篇就足够了!
人工智能·程序员·开源·llm·github·deepseek·本地化部署
AC赳赳老秦6 天前
预见2026:DeepSeek与云平台联动的自动化流程——云原生AI工具演进的核心引擎
人工智能·安全·云原生·架构·自动化·prometheus·deepseek
AC赳赳老秦6 天前
DeepSeek助力云原生AI降本:容器化部署资源优化与算力利用率提升技巧
网络·python·django·prompt·tornado·ai-native·deepseek
AC赳赳老秦7 天前
多模态 AI 驱动办公智能化变革:DeepSeek 赋能图文转写与视频摘要的高效实践
java·ide·人工智能·python·prometheus·ai-native·deepseek
AC赳赳老秦7 天前
2026云原生AI规模化趋势预测:DeepSeek在K8s集群中的部署与运维实战
运维·人工智能·云原生·架构·kubernetes·prometheus·deepseek
码农小韩8 天前
AIAgent应用开发——大模型理论基础与应用(六)
人工智能·python·提示词工程·aiagent·deepseek