LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
想去的远方3 小时前
OpenAI Python API 完全指南:从入门到实战
llm·openai·大语言模型
NocoBase5 小时前
GitHub 上 Star 数量前 8 的开源 MCP 项目
开源·openai·mcp
福宝plus1 天前
教你如何使用ChatGPT Agent,Agent使用次数限制,以及实际体验感受
chatgpt·openai·agent
新智元1 天前
毕树超入职Meta后首发声:十年前怀疑AGI,如今深信AGI已至!
人工智能·openai
新智元1 天前
GPT-5「全家桶」爆出本周上线!惊艳首测秒出网页,编程彻底起飞
人工智能·openai
安思派Anspire2 天前
智能体AI中的提示工程与上下文工程
aigc·openai·agent
哪吒编程2 天前
炸裂!OpenAI GPT-5提前泄露?最强模型诞生
openai
中等生2 天前
ReAct: 减少 LLM 幻觉,提升准确度
llm·openai·ai编程
Java陈序员2 天前
轻松处理证件照!又一款 AI 证件照制作工具!
openai·ai编程·aiops
LinXunFeng3 天前
AI - Gemini CLI 摆脱终端限制
openai·ai编程·gemini