ollama部署模型

一、下载安装ollama

自行选定版本
Download Ollama on Windows

注:Ollama默认安装目录是C盘的用户目录,如果不希望安装在C盘的话,使用下述方法:

在OllamaSetup.exe所在目录打开cmd命令行,然后命令如下:

复制代码
OllamaSetup.exe /DIR=你要安装的目录位置

若采用此方法,windows版环境变量需手动配置:

在你的用户/系统 变量的path 中添加安装路径(ollama.exe的所在路径)即可

安装完成后,还需要配置一个环境变量,更改Ollama下载和部署模型的位置。环境变量如下:

复制代码
OLLAMA_MODELS=你想要保存模型的目录

二、查找部署模型

Ollama Search

在上述网页中搜索需要部署的模型(deepseek-r1为例)

复制这个命令,然后打开一个cmd命令行,运行命令即可,然后你就可以跟本地模型聊天了:

三、Ollama常用命令

复制代码
  ollama serve      # Start ollama
  ollama create     # Create a model from a Modelfile
  ollama show       # Show information for a model
  ollama run        # Run a model
  ollama stop       # Stop a running model
  ollama pull       # Pull a model from a registry
  ollama push       # Push a model to a registry
  ollama list       # List models
  ollama ps         # List running models
  ollama cp         # Copy a model
  ollama rm         # Remove a model
  ollama help       # Help about any command
相关推荐
全栈独立开发者7 小时前
点餐系统装上了“DeepSeek大脑”:基于 Spring AI + PgVector 的 RAG 落地指南
java·人工智能·spring
dmonstererer8 小时前
【k8s设置污点/容忍】
java·容器·kubernetes
super_lzb8 小时前
mybatis拦截器ParameterHandler详解
java·数据库·spring boot·spring·mybatis
程序之巅8 小时前
VS code 远程python代码debug
android·java·python
我是Superman丶8 小时前
【异常】Spring Ai Alibaba 流式输出卡住无响应的问题
java·后端·spring
墨雨晨曦888 小时前
Nacos
java
invicinble8 小时前
seata的认识与实际开发要做的事情
java
乌日尼乐8 小时前
【Java基础整理】Java多线程
java·后端
2501_941870569 小时前
从配置频繁变动到动态配置体系落地的互联网系统工程实践随笔与多语言语法思考
java·前端·python
她说..9 小时前
Spring 核心工具类 AopUtils 超详细全解
java·后端·spring·springboot·spring aop