本地部署大模型(ollama模式)

分享记录一下本地部署大模型步骤。

大模型应用部署可以选择 ollama 或者 LM Studio。本文介绍ollama本地部署

ollama官网为:https://ollama.com/

进入官网,下载ollama。

ollama是一个模型管理工具和平台,它提供了很多国内外常见的模型,我们可以在其官网上搜索自己需要的模型:
https://ollama.com/search

案例以deepseek-r1 为模型。

在ollama会给出运行模型的命令

下载完成ollama后,进行运行deepseek模型

java 复制代码
ollama run deepseek-r1:7b

至此,就可以本地模型进行聊天了。

退出聊天

相关推荐
亦暖筑序17 小时前
GraphRAG vs 传统向量RAG:Spring AI实战对比
知识图谱·neo4j·向量数据库·rag·spring ai·graphrag
a23121212 天前
从零搭建Spring Ai多智能体后端应用
java·运维·微服务·多智能体·后端开发·spring ai
中间件XL2 天前
ai-agent框架spring ai/alibaba(四) RAG
rag·ai agent·智能体·spring ai
java1234_小锋4 天前
利用Cursor AI编程 两小时实现 基于Spring AI 2.0的带智能客服的商城系统(带在线支付功能)
人工智能·spring·ai编程·智能客服·spring ai·ai智能客服
java1234_小锋5 天前
Spring AI 2.0 开发Java Agent智能体 - MCP(模型上下文协议)
java·人工智能·spring·spring ai
中间件XL5 天前
ai-agent框架spring ai alibaba (三)外部调用II-1 MCP
ai agent·spring ai·mcp·ai agent框架
TechMoeTiger7 天前
Java + Spring实现Hermes Agent之龙虾、Skills、Mcp和沙箱代码执行环境思路
spring ai·openclaw·龙虾·hermes agent·spring ai skills·服务端龙虾·spring ai 沙箱·code interpreter
爱编程的小新☆7 天前
JAVA实现Manus智能体
java·react·cot·智能体·spring ai·manus·agent loop
海兰9 天前
【第21篇-续】graph-Stream-Node改造为适配openAI模型示例
java·人工智能·spring boot·spring·spring ai
小小工匠10 天前
Spring AI RAG - 05 RAG 检索阶段与 QuestionAnswerAdvisor
rag·spring ai