本地部署大模型(ollama模式)

分享记录一下本地部署大模型步骤。

大模型应用部署可以选择 ollama 或者 LM Studio。本文介绍ollama本地部署

ollama官网为:https://ollama.com/

进入官网,下载ollama。

ollama是一个模型管理工具和平台,它提供了很多国内外常见的模型,我们可以在其官网上搜索自己需要的模型:
https://ollama.com/search

案例以deepseek-r1 为模型。

在ollama会给出运行模型的命令

下载完成ollama后,进行运行deepseek模型

java 复制代码
ollama run deepseek-r1:7b

至此,就可以本地模型进行聊天了。

退出聊天

相关推荐
梵得儿SHI18 小时前
(第三篇)Spring AI 架构设计与优化:容器化与云原生部署,基于 K8s 的 AI 应用全生命周期管理
java·ci/cd·docker·云原生·kubernetes·容器化·spring ai
行者-全栈开发2 天前
GPT-4 vs Claude vs 通义千问:Spring AI 接入三大模型对比测评(2026最新)
claude·通义千问·spring ai·企业级开发·chatmodel·大模型 api·多模型切换
海兰2 天前
【第32篇】场景示例项目
人工智能·spring boot·状态模式·spring ai
海兰3 天前
【第27篇】Micrometer + Zipkin
人工智能·spring boot·alibaba·spring ai
海兰3 天前
【第28篇】可观测性实战:LangFuse 方案详解
人工智能·spring boot·alibaba·spring ai
一叶飘零_sweeeet4 天前
2026 年 Java 面试必问:Spring AI 核心原理,90% 人答不全
java·面试·spring ai
海兰5 天前
【开篇】Spring AI、OpenClaw 和Hermes
java·人工智能·spring·spring ai
@SmartSi5 天前
Spring AI 实战:如何使用 MCP Server 搭建 MCP 天气查询服务
spring ai·mcp
行者-全栈开发6 天前
Spring AI + GPT-4 实战:API Key 安全管理与企业级集成方案(避坑指南)
openai api·错误处理·密钥管理·spring ai·企业级开发·请求封装·api 安全
@SmartSi6 天前
Spring AI 实战:如何使用 MCP Client 接入 MCP 天气查询服务
spring ai·mcp