本地部署大模型(ollama模式)

分享记录一下本地部署大模型步骤。

大模型应用部署可以选择 ollama 或者 LM Studio。本文介绍ollama本地部署

ollama官网为:https://ollama.com/

进入官网,下载ollama。

ollama是一个模型管理工具和平台,它提供了很多国内外常见的模型,我们可以在其官网上搜索自己需要的模型:
https://ollama.com/search

案例以deepseek-r1 为模型。

在ollama会给出运行模型的命令

下载完成ollama后,进行运行deepseek模型

java 复制代码
ollama run deepseek-r1:7b

至此,就可以本地模型进行聊天了。

退出聊天

相关推荐
xixingzhe28 天前
spring ai实现ReAct
spring ai
中间件XL9 天前
agent框架langgraph4j原理源码分析-agent和集成 I Agent
ai agent·spring ai·langgraph4j
光依旧10 天前
MCP实战手记系列(五):让工具返回一个能点的界面(文末附github源码链接)
java·spring ai·前端集成·mcp·mcp apps
学编程就要猛10 天前
基于Spring AI 的智能聊天机器人
java·spring ai·chat robot
光依旧11 天前
MCP实战手记系列(二):跑通第一个 MCP Server(文末附github源码链接)
java·spring ai·mcp·ai 开发·源码实战
YDS82912 天前
AI Agent 脚手架 —— 脚手架工程化和Maven私服
ai·agent·spring ai
ba_pi12 天前
springAI2.0接入mcp读取mysql
java·agent·spring ai
YDS82914 天前
AI Agent 脚手架 —— Service层和Trigger层接口实现
ai·agent·spring ai
猫吻鱼15 天前
【AI 01】【Spring AI 基础使用】
java·spring·spring ai
醉古意16 天前
给AI一个角色设定
intellij-idea·spring ai