LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
三桥君3 天前
我为什么决定关闭ChatGPT的记忆功能?
人工智能·ai·自然语言处理·chatgpt·prompt·openai·ai产品经理
Dlimeng3 天前
2024年OpenAI DevDay发布实时 API、提示缓存等新功能
人工智能·深度学习·ai·chatgpt·openai·sam altman
hunteritself5 天前
ChatGPT实时语音将于本周向免费用户推出:OpenAI DevDay 2024详细解读
人工智能·gpt·算法·chatgpt·openai·语音识别
AskHarries10 天前
开发提效的工具tabby快速入门
spring boot·后端·openai
五阿哥爱跳舞11 天前
介绍GPT-o1:一系列解决困难问题( science, coding, and math )的推理模型
llm·openai
月十丶11 天前
Claude 的上下文检索功能提升了 RAG 准确率,这会是人工智能革命?
openai·claude
曾小蛙12 天前
【ComfyUI】生成图细节更清晰——Consistency_Decoder
openai·decoder·consistency·一致性解码器
Hello 0 112 天前
MovieLife 电影生活
语言模型·生活·openai·图像识别·文字转语音
营赢盈英13 天前
OpenAI GPT-3 API: What is the difference between davinci and text-davinci-003?
ai·gpt-3·openai·openai api
营赢盈英14 天前
Error when custom data is added to Azure OpenAI Service Deployment
ai·openai·azure·storage account·cognitivesearch