LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
Linux猿13 小时前
OpenAI Swarm 多智能体框架介绍
openai·多智能体·swarm·智能体·openai swarm·多智能体框架
十幺卜入2 天前
DeepSeek服务器繁忙 多种方式继续优雅的使用它
openai·api·deepseek·服务器繁忙
bdawn3 天前
深度集成DeepSeek大模型:WebSocket流式聊天实现
python·websocket·openai·api·实时聊天·deepseek大模型·流式输出
yolo6126 天前
【Deepseek】手把手教你使用vscode实现平民版AI Code编辑器cursor
openai·cursor·deepseek
奇舞精选9 天前
AI Agent自动化操作浏览器的发展与应用
前端·openai
阡之尘埃12 天前
调用deepseek的API接口使用,对话,json化,产品化
人工智能·python·openai·大语言模型·api接口·deepseek
XY笔记13 天前
如何使用deepseek开发一个翻译API
人工智能·openai·翻译·deepseek
一泽Eze13 天前
非技术人 10 分钟读懂 Deepseek R1|天才模型养成与 AI 超越人类的破晓时刻
openai·deepseek
老张学AI13 天前
DeepSeek R1 本地部署保姆级教程
openai
老张学AI13 天前
免费且强大的DeepSeek R1 Vscode插件来了
openai