Ollama平替!LM Studio本地大模型调用实战

本文已收录在Github关注我,紧跟本系列专栏文章,咱们下篇再续!

  • 🚀 魔都架构师 | 全网30W技术追随者
  • 🔧 大厂分布式系统/数据中台实战专家
  • 🏆 主导交易系统百万级流量调优 & 车联网平台架构
  • 🧠 AIGC应用开发先行者 | 区块链落地实践者
  • 🌍 以技术驱动创新,我们的征途是改变世界!
  • 👉 实战干货:编程严选网

Ollama 平替!LM Studio本地大模型调用实战指南

0 前言

可像 Ollama 通过暴露本地端口,实现本地客户端调用。

1 选择模型

在 LM Studio 的 "开发者" 选项卡中选择模型:

2 端口暴露

设置暴露的端口(默认1234):

启用 CORS 后,可对接网页应用或其他客户端工具。

3 启动服务

点击状态选项卡:

控制台会显示运行日志和访问地址:

4 快速上手

4.1 快速ping

列出已加载并就绪的模型:

bash 复制代码
curl http://127.0.0.1:1234/v1/models/

这也是验证服务器是否可访问的一种有效方法!

4.2 聊天

这是一个类似调用OpenAI的操作,通过curl工具访问/v1/chat/completion端点:

  • 在Mac或Linux系统,可用任意终端运行
  • Windows系统用Git Bash
bash 复制代码
curl http://127.0.0.1:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-4-maverick-17b-128e-instruct",
    "messages": [ 
      { "role": "system", "content": "Always answer in rhymes." },
      { "role": "user", "content": "Introduce yourself." }
    ], 
    "temperature": 0.7, 
    "max_tokens": -1,
    "stream": true
  }'

该调用是"无状态的",即服务器不会保留对话历史记录。调用方有责任在每次调用时提供完整的对话历史记录。

流式传输 V.S 累积完整响应

注意"stream": true(流式传输:开启)参数:

  • true(开启)时,LM Studio会在预测出标记(token)的同时将其逐一流式返回
  • 如将此参数设置为false(关闭),在调用返回之前,完整的预测结果会被先累积起来。对于较长的内容生成或者运行速度较慢的模型,这可能需要花费一些时间!
相关推荐
边缘常驻民几秒前
PyTorch深度学习入门记录3
人工智能·pytorch·深度学习
阿里云大数据AI技术12 分钟前
[VLDB 2025]面向Flink集群巡检的交叉对比学习异常检测
大数据·人工智能·flink
天天摸鱼的java工程师13 分钟前
🔧 MySQL 索引的设计原则有哪些?【原理 + 业务场景实战】
java·后端·面试
snakeshe101017 分钟前
Maven核心功能与IDEA高效调试技巧全解析
后端
a1504631 小时前
人工智能——图像梯度处理、边缘检测、绘制图像轮廓、凸包特征检测
人工智能·深度学习·计算机视觉
*愿风载尘*1 小时前
ksql连接数据库免输入密码交互
数据库·后端
荼蘼1 小时前
基于 KNN 算法的手写数字识别项目实践
人工智能·算法·机器学习
溟洵1 小时前
Qt 窗口 工具栏QToolBar、状态栏StatusBar
开发语言·前端·数据库·c++·后端·qt
wei_shuo1 小时前
亚马逊云科技 EC2 部署 Dify,集成 Amazon Bedrock 构建生成式 AI 应用
人工智能·amazon·amazon bedrock
ppo921 小时前
MCP简单应用:使用SpringAI + Cline + DeepSeek实现AI创建文件并写入内容
人工智能·后端