LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
VIP_CQCRE12 小时前
用 Ace Data Cloud 快速接入 OpenAI Chat Completions:对话、流式、多轮和多模态一篇打通
python·ai·openai·api·教程
云卷云舒___________19 小时前
OpenAI预览GPT-5.6三款模型、Grok 4.5低成本逼近Fable 5、MiniMax研发2.7万亿参数M3 Pro | 7月9日 AI日报
openai·grok·minimax·ai日报·gpt56·fable·m3pro
FogLetter19 小时前
告别“一次性Prompt”:当AI学会“手艺活”,Skill才是智能体的终极进化
aigc·openai
怕浪猫21 小时前
第12章 实战项目四:电商销售与服务Agent
aigc·openai·ai编程
AI袋鼠帝1 天前
再见Fable 5,OpenAI出手了!GPT-5.6真香~
aigc·openai
七牛开发者2 天前
Loop 最佳实践:从 goal 到 loop,让 Agent 工作流循环起来
openai·agent·ai编程
七牛开发者2 天前
Agent 小知识|为什么大家都在聊 Agent?
openai·agent·ai编程
147API2 天前
OpenAI工作区Agent计费后,技术团队要补一张成本观测表
人工智能·chatgpt·openai
史呆芬2 天前
CodeX多仓库提交Skill搭建
git·后端·openai