LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
弥金1 小时前
LangChain Chat Model
后端·openai·ai编程
飞哥数智坊2 小时前
Codex 集成 Slack 后,我那个“数字同事”的梦碎了一半
人工智能·openai·ai编程
火锅小王子2 小时前
目标筑基:从0到1学习GoLang (入门 Go语言+GoFrame开发服务端+ langchain接入)
前端·后端·openai
L7ink18 小时前
解放双手!Moni:一款用 AI 帮你自动记账、分析消费的智能助手
spring boot·openai
三天哥2 天前
演示和解读ChatGPT App SDK,以后Android/iOS App不用开发了?
人工智能·ai·chatgpt·aigc·openai·智能体·appsdk
新智元2 天前
老黄押宝「美版 DeepSeek」!谷歌天才叛将创业,一夜吸金 20 亿美元
人工智能·openai
新智元2 天前
刚刚,全球首个 GB300 巨兽救场!一年烧光 70 亿,OpenAI 内斗 GPU 惨烈
人工智能·openai
尘叶心简2 天前
LangGraph实现自适应RAGAgent
aigc·openai
FogLetter2 天前
从「关键词匹配」到「语义理解」:我是如何用 Embedding 让搜索「听懂人话」的?
前端·aigc·openai
FogLetter2 天前
从“满嘴跑火车”到“有据可依”:给大模型配个“外部硬盘”RAG
aigc·openai