LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
掘金一周14 小时前
AI时代的“大厂裁员”到底裁的是程序员,还是网民的智商? | 沸点周刊 5.28
openai·ai编程·沸点
AINative软件工程15 小时前
Agent 挂了我怎么知道?自主 Agent 的可观察性工程实践
openai
姓洪的15 小时前
我把AI从"聊天框"变成了"函数":学会用代码调用AI
openai·deepseek
机器之心17 小时前
Speech LLM 的下一个突破口:你的语音大模型可以是个「带韵律的文本模型」
人工智能·openai
Artech18 小时前
[MAF的Agent管道详解-03]连接LLM的IChatClient对象
ai·llm·openai·agent·maf·agent管道·ichatclient
niaonao18 小时前
我把 Codex 的底座模型换成了 DeepSeek V4
openai·agent·deepseek
灵感__idea1 天前
《AI工程》:大语言模型,到底是什么?
aigc·openai·ai编程
机器之心1 天前
DeepSeek陈德里与两个AI,合写了一篇论文
人工智能·openai