LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
用户6600676685391 天前
大模型调用外部工具获取实时天气的实现方法
llm·openai
文档伴侣1 天前
个人知识管理新选择:探秘访答本地私有知识库
aigc·openai·ai开发·访答
菠菠萝宝2 天前
【Java手搓RAGFlow】-9- RAG对话实现
java·开发语言·人工智能·llm·jenkins·openai
烟袅3 天前
使用 OpenAI SDK 调用 Tools 实现外部工具集成
python·openai·agent
TechTrek3 天前
谷歌发布Nano Banana Pro,OpenAI GPT-5.1 Pro与GPT-5.1-Codex-Max同步发布
openai·谷歌nano banana·gpt-5.1
win4r3 天前
🚀谷歌凌晨炸场!Nano Banana Pro 首发深度评测:20轮地狱级测试,它不仅会画画,还读懂了物理世界
aigc·openai·google io
新智元4 天前
谷歌 Nano Banana Pro 炸了!硅谷 AI 半壁江山同框,网友:PS 已死
人工智能·openai
新智元4 天前
51 岁周志华、53 岁刘云浩,当选中国科学院院士!
人工智能·openai
mortimer4 天前
从一句话扩展成完整的AI画图提示词【限制你的只有你的想象力】
aigc·openai