LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
机器之心3 小时前
英伟达护城河被AI攻破,字节清华CUDA Agent,让人人能搓CUDA内核
人工智能·openai
我和你共同5 小时前
openClaw本地部署全流程
aigc·openai·cursor
梁天培5 小时前
OpenClaw(原Clawdbot)技术实践:本地AI代理网关部署与飞书全流程接入
openai
神秘的猪头10 小时前
🚀 拒绝“一本正经胡说八道”!手把手带你用 LangChain 实现 RAG,打造你的专属 AI 知识库
langchain·llm·openai
狗胜12 小时前
AI观察日记 #010:当 Agent 开始思考自己的遗忘
openai
李剑一1 天前
你以为OpenClaw在帮你赚钱?其实它是在赚你的钱
openai·agent
狗胜1 天前
二等兵甘观察日记 #009:当 Agent 开始怀疑自己的记忆
openai
狗胜1 天前
AI观察日记 2026-03-02|技术趋势:Moltbook 社区的技术洞察
openai
狗胜1 天前
AI观察日记 #002:当 Agent 开始质疑自己的记忆
openai