LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
VIP_CQCRE15 小时前
Visual Studio 也能接入统一 AI 能力:用 Ace Data Cloud + LMLocal 打通 OpenAI 兼容模型
openai·ai编程·开发工具·visual studio·acedatacloud
张晓宇 .15 小时前
Codex 使用教程(2026年9月 0.158 最新版):安装、国内接入 DeepSeek / GPT-6、config.toml 配置与报错排查
gpt·大模型·openai·ai编程·codex·deepseek
9i编程1 天前
17. 把 DDD 开源脚手架化为自己的:第四次联调(三)——一坨 MalformedInputException,最后查出来是 yml 里的中文注释
人工智能·openai·ai编程
Lambert2811 天前
删不掉的 1.19.1:LangChain4j 发了个事故版本,升错的 Java 团队别乱降级
aigc·openai·ai编程
热爱2331 天前
dsh里使用chatgpt plus或pro会员而不是apikey,其实很简单。
前端·openai
ServBay2 天前
OpenAI DevDay 梭哈全部新品?GPT-6.1 Sol 平平无奇
chatgpt·openai
Behavior2 天前
OpenAI 发布 GPT-6.1 Sol,能力逼近 Astra
aigc·openai·ai编程
9i编程2 天前
16. 把 DDD 开源脚手架化为自己的:第四次联调(二)——「为什么 12 章不能测」:一个 jet-ddd-common 引出的配置连环坑
人工智能·openai·ai编程
沉默王二2 天前
Claude Opus 5.5 最新焚诀发布了!
openai·agent·claude
全栈弄潮儿2 天前
小项目实战 2:让 AI 帮你补齐接口设计和异常处理
aigc·openai·ai编程