LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
新智元11 小时前
图灵奖大佬向 97 年小孩哥汇报?小扎 1 亿年薪买新贵,老将痛诉熬夜捡 GPU!
人工智能·openai
新智元11 小时前
刚刚,Ilya 官宣出任 SSI CEO!送走「叛徒」联创,豪言不缺 GPU
人工智能·openai
知了一笑18 小时前
SpringBoot3集成多款主流大模型
spring boot·后端·openai
楽码18 小时前
终于说清楚!希腊字符如何进入数学或科学场景
openai·编程语言·trae
临界点oc10 天前
SpringAI + DeepSeek大模型应用开发 - 进阶篇(上)
openai·springai·阿里百炼
伊泽瑞尔10 天前
打造极致聊天体验:uz-chat——全端AI聊天组件来了!
后端·chatgpt·openai
量子位10 天前
OpenAI 硬件陷 “抄袭门”,商标 / 设计极其相似,官方火速删帖
openai
新智元10 天前
任务太难,连 ChatGPT 都弃了!最强 AI 神器一键拆解,首测来袭
人工智能·openai
新智元10 天前
特斯拉 Robotaxi 首秀翻车!逆行急刹吓哭网友,半路抛客全程高能预警
人工智能·openai
chengliu050811 天前
SSE(Server-Sent Events)实现ai对话框
openai