本地部署大模型(ollama模式)

分享记录一下本地部署大模型步骤。

大模型应用部署可以选择 ollama 或者 LM Studio。本文介绍ollama本地部署

ollama官网为:https://ollama.com/

进入官网,下载ollama。

ollama是一个模型管理工具和平台,它提供了很多国内外常见的模型,我们可以在其官网上搜索自己需要的模型:
https://ollama.com/search

案例以deepseek-r1 为模型。

在ollama会给出运行模型的命令

下载完成ollama后,进行运行deepseek模型

java 复制代码
ollama run deepseek-r1:7b

至此,就可以本地模型进行聊天了。

退出聊天

相关推荐
老任与码2 天前
Spring AI(2)—— 发送消息的API
java·人工智能·spring ai
老任与码2 天前
Spring AI(3)——Chat Memory
java·人工智能·spring ai
在未来等你4 天前
互联网大厂Java求职面试:基于RAG的智能问答系统设计与实现-2
java·智能问答·milvus·向量数据库·rag·spring ai
老任与码7 天前
Spring AI(1)—— 基本使用
java·人工智能·spring ai
小码农叔叔9 天前
【AI大模型】SpringBoot整合Spring AI 核心组件使用详解
spring ai·spring ai 核心组件·spring ai 技术组件·spring ai rag·spring ai 使用详解·spring ai 实战应用
-曾牛19 天前
Spring AI 快速入门:从环境搭建到核心组件集成
java·人工智能·spring·ai·大模型·spring ai·开发环境搭建
小可爱的大笨蛋21 天前
Spring AI - Redis缓存对话
java·spring·spring ai
-曾牛23 天前
基于LangChain4J的AI Services实践:用声明式接口重构LLM应用开发
人工智能·学习·ai·重构·java-ee·spring ai·langchian4j
何似在人间57525 天前
SpringAI+DeepSeek大模型应用开发——5 ChatPDF
java·大模型开发·rag·spring ai·chat pdf
何似在人间5751 个月前
SpringAI+DeepSeek大模型应用开发——4 对话机器人
java·机器人·大模型应用开发·spring ai