LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。

试试代码

在windows下使用python简单一试,例子直接复制LM界面上的代码:

  • 用pip安装 openai包
  • 在LM界面 Start Server

需要安装 openai包。

本地电脑是I7的CPU,但是没有独立显卡,提的问题范围越广,推理越慢,而且很明显看到上32G内存的必要性了。

第1次运行,AI给出了俩句子,再后面问它,就不出结果了。

使用chat

需要 Stop Server

AI 胡乱编了两句话来应付。

所以即使AI横行,也是需要会提问题、描述问题的人;用AI写小说,需要人给它一个好的奇思妙想。

相关推荐
机器之心13 小时前
谷歌nano banana正式上线:单图成本不到3毛钱,比OpenAI便宜95%
人工智能·openai
机器之心13 小时前
拒稿警告,靠大模型「偷摸水论文」被堵死,ICLR最严新规来了
人工智能·openai
量子位15 小时前
小扎高薪挖来的人又跳回OpenAI了!首席科学家赵晟佳也要回去
openai·ai编程
机器之心19 小时前
FlashAttention-4震撼来袭,原生支持Blackwell GPU,英伟达的护城河更深了?
人工智能·openai
waynaqua1 天前
FastAPI开发AI应用教程六:新增用户历史消息
python·openai·fastjson
安思派Anspire1 天前
我测试了所有AI Code Generator——这是最终赢家(二)
aigc·openai·agent
一点一木2 天前
主流 AI 提示词优化工具推荐(2025 全面对比指南)
人工智能·openai·ai编程
新智元2 天前
刚刚,英伟达新模型上线!4B 推理狂飙 53 倍,全新注意力架构超越 Mamba 2
人工智能·openai
新智元2 天前
北大数学家终结 50 年猜想!一只蝴蝶翅膀,竟难倒菲尔兹奖得主
人工智能·openai
机器之心2 天前
热议!DeepSeek V3.1惊现神秘「极」字Bug,模型故障了?
人工智能·openai