LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
一只叫煤球的猫9 小时前
2025年终总结:我与AI——减少内耗、疯狂学习、享受乐趣
aigc·openai·ai编程
机器之心13 小时前
多模态推理新范式!DiffThinker:用扩散模型「画」出推理和答案
人工智能·openai
用户908324602731 天前
大模型还在硬编码?Spring AI 实现“动态热切换”全攻略(上)
后端·openai
QING6181 天前
移动端攻城狮 —— 浅谈 AI 编程对我的影响?
openai·ai编程·cursor
机器之心2 天前
智元提出SOP,让VLA模型在真实世界实现可扩展的在线进化
人工智能·openai
Jagger_2 天前
【提示词】主播风格概念化内容创作
aigc·openai·ai编程
我要充满正能量2 天前
Opencode CLI 安装成功,但是启动失败
openai·ai编程·claude
Shawn_Shawn2 天前
Agenic Ai架构
llm·aigc·openai
福大大架构师每日一题3 天前
LlamaFactory v0.9.4 正式发布:告别 2025,全面升级的 LLM 微调框架来了
openai
掉鱼的猫3 天前
灵动如画 —— 初识 Solon Graph Fluent API 编排
java·openai·workflow