本地部署大模型(ollama模式)

分享记录一下本地部署大模型步骤。

大模型应用部署可以选择 ollama 或者 LM Studio。本文介绍ollama本地部署

ollama官网为:https://ollama.com/

进入官网,下载ollama。

ollama是一个模型管理工具和平台,它提供了很多国内外常见的模型,我们可以在其官网上搜索自己需要的模型:
https://ollama.com/search

案例以deepseek-r1 为模型。

在ollama会给出运行模型的命令

下载完成ollama后,进行运行deepseek模型

java 复制代码
ollama run deepseek-r1:7b

至此,就可以本地模型进行聊天了。

退出聊天

相关推荐
佛祖让我来巡山4 小时前
SpringAI保姆级实战教程
spring ai·springai·springai教程·springai入门
BerryS3N6 小时前
Java 后端转型大模型:Demo 能跑不等于能上线
java·人工智能·python·java后端·spring ai·langchain4j·大模型转型
lichuangcsdn2 天前
【Spring AI 学习(三)】实现简单的对话
java·人工智能·学习·spring·spring ai
lichuangcsdn3 天前
【Spring AI 学习(一)】spring ai是什么
人工智能·学习·spring·spring ai
码上解惑7 天前
从 Dify 工作流说起:常用节点怎么选、怎样组合?
java·人工智能·ai·agent·dify·智能体·spring ai
荣--8 天前
业务智能体实战笔记:分层消除不确定性(五·终)|完全脱离 LLM 的确定性判定 + 评测闭环
ai agent·spring ai·业务智能体
码上解惑8 天前
2026 年智能体开发平台怎么选:从开源产品、云厂商到私有化平台
人工智能·ai·开源·智能体·spring ai
码上解惑9 天前
从模型接入到应用运行:智能体开发平台的整体架构设计
人工智能·agent·智能体·spring ai
荣--9 天前
业务智能体实战笔记:兜底修复——LLM 错了怎么救
ai agent·spring ai·业务智能体
荣--10 天前
业务智能体实战笔记(三):收窄 LLM 决策空间
工具调用·spring ai·agent工程化·reactagent·业务智能体·llm调优·准确率优化