LM Studio本地部署Qwen3

本文较长,建议点赞收藏。更多AI大模型开发学习视频籽料, 都在这>>Github<<

一、概述

LM Studio 是一款桌面应用程序,用于在您的计算机本地开发和实验 LLM。

官方地址:lmstudio.ai

官方中文地址:lm-studio.cn

主要功能

  • 用于运行本地 LLM 的桌面应用程序

  • 熟悉的聊天界面

  • 搜索和下载功能(通过 Hugging Face 🤗)

  • 可以监听类似 OpenAI 端点的本地服务器

  • 用于管理本地模型和配置的系统

重点来了,LM Studio可以本地运行Hugging Face上面的所有模型,只要Hugging Face有就行。

即使国内网络,依然可以下载任意模型,速度也很快。

Hugging Face地址:huggingface.co

Ollama本地我也运行过,就是有一个很大缺点,模型不够丰富,因为很多模型不能适配Ollama。

目前模型最丰富的网站,还是Hugging Face,更新速度非常快。比如Qwen3凌晨发布,第二天,Hugging Face就可以看到了。

二、安装

访问中文网页:lm-studio.cn,下载客户端,直接下一步,下一步安装好,就可以了。

三、使用

中文文档:lm-studio.cn/docs/app

设置语言

打开客户端,点击右下角的设置按钮

设置为简体中文

模型目录

默认目录是C盘,由于C盘空间太小了,所以需要设置为其他盘,比如: E盘

手动创建目录 E:\lmstudio\model

然后点击按钮,设置一下即可。

模型安装

默认没有模型,所以需要安装一个,这里以最火的Qwen3为例子。

点击搜索按钮

搜索模型,比如:Qwen3-4b

点击下载

下载速度还可以,17MB/s

下载完成后,不要着急运行。

注意:LM Studio搜索展示的模型,会自动根据你的电脑配置,显示是否可以正常运行。

比如:Qwen3 235B A22B,就会有提示。

运行模型

点击按钮,选择加载模型,Qwen3-4b

点击设置,开启网络和cors

端口暴露:默认使用 1234 端口,可自定义修改(需注意端口冲突问题)

跨域支持:启用 CORS 后,可对接网页应用或其他客户端工具

局域网访问:勾选"在局域网内提供服务"选项后,服务器会监听所有网络接口(0.0.0.0),允许其他设备通过 IP 地址访问

右边会展示模型相关信息

API密钥是:qwen3-4b

注意:这里会进行监听本机ip的1234端口。

重点提醒一下,这里最好是内网访问,不要用公网暴露端口,否则很容易受到攻击。

访问api地址:http://127.0.0.1:1234/v1/models

效果如下:

测试模型

回到首页,选择模型,提问

四、Cherry Studio测试

将Cherry Studio更新到最新版本

点击模型服务-->LM Studio

输入API密钥

添加模型:qwen3-4b

点击检测

检查模型

提示连接成功,就可以了

回到首页,选择默认助手,选择模型

LM Studio基本使用,到这里就结束了,使用还是挺简单的。

Qwen3模型都支持MCP调用,这点挺好的。

学习资源推荐

如果你想更深入地学习大模型,以下是一些非常有价值的学习资源,这些资源将帮助你从不同角度学习大模型,提升你的实践能力。

Github

相关推荐
doll ~CJ1 小时前
Large Language Model(LLM)应用开发学习实践(三)
langchain·llm·提示词工程·ai应用
Rolei_zl1 小时前
(AI生成) openClaw 的前世今生
llm·aigc
人工智能培训1 小时前
具身智能如何在保证安全的前提下高效探索学习?
语言模型·llm·数据采集·模型量化·多模态学习·具身智能·环境感知
Elwin Wong2 小时前
浅析DeepSeek-OCR v1&v2
人工智能·大模型·llm·ocr·deepseek
CoderJia程序员甲2 小时前
GitHub 热榜项目 - 日榜(2026-02-03)
git·ai·开源·llm·github
中杯可乐多加冰13 小时前
RAG 深度实践系列(七):从“能用”到“好用”——RAG 系统优化与效果评估
人工智能·大模型·llm·大语言模型·rag·检索增强生成
山顶夕景21 小时前
【LLM】大模型数据清洗&合成&增强方法
大模型·llm·训练数据
tiger1191 天前
FPGA 在大模型推理中的应用
人工智能·llm·fpga·大模型推理
AndrewHZ1 天前
【AI黑话日日新】什么是大模型的test-time scaling?
人工智能·深度学习·大模型·llm·推理加速·测试时缩放
问道飞鱼1 天前
【大模型知识】Chroma + Ollama + Llama 3.1 搭建本地知识库
llama·知识库·chroma·ollama