LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
SQDN13 小时前
Cline 配置 OpenAI Compatible 前怎么验证?先查 Base URL、/models 与模型 ID
openai·api·baseurl·cline·模型调试
天天摸鱼的java工程师19 小时前
公司取消前端岗后,做了 10 年 Java 的我,第一次认真拥抱 AI
前端·后端·openai
西安小哥19 小时前
AI与万物融合:从顶层设计到草根落地的全景图景
aigc·openai
gptAI_plus1 天前
TypeScript 7.0 已发布:大型项目迁移别只看提速,这 8 个兼容性问题更关键
chatgpt·openai
Miracleeee2 天前
OpenAI 官方教你怎么用 Codex,其实是在教你怎么写一份「Skill」
aigc·openai
Zeeland2 天前
Agent 能完成一个任务,但它能持续追一个三个月的目标吗?
人工智能·github·openai
时光不负努力2 天前
skill 定义 + 多个skill 协作
人工智能·openai
9i编程2 天前
AI BI Helper 开发实录 02:Graph 工作流编排——SQL 生成、执行与邮件推送
人工智能·openai·ai编程
武子康2 天前
OpenAI Tibo:同样的 Rate Card,为什么更强的 Sol 反而更快耗尽 Codex 限额
人工智能·chatgpt·openai
东小西3 天前
第15篇:《检索效果太烂?我用Query改写和重排序把准确率翻了一倍》
openai·ai编程