ollama部署模型

一、下载安装ollama

自行选定版本
Download Ollama on Windows

注:Ollama默认安装目录是C盘的用户目录,如果不希望安装在C盘的话,使用下述方法:

在OllamaSetup.exe所在目录打开cmd命令行,然后命令如下:

复制代码
OllamaSetup.exe /DIR=你要安装的目录位置

若采用此方法,windows版环境变量需手动配置:

在你的用户/系统 变量的path 中添加安装路径(ollama.exe的所在路径)即可

安装完成后,还需要配置一个环境变量,更改Ollama下载和部署模型的位置。环境变量如下:

复制代码
OLLAMA_MODELS=你想要保存模型的目录

二、查找部署模型

Ollama Search

在上述网页中搜索需要部署的模型(deepseek-r1为例)

复制这个命令,然后打开一个cmd命令行,运行命令即可,然后你就可以跟本地模型聊天了:

三、Ollama常用命令

复制代码
  ollama serve      # Start ollama
  ollama create     # Create a model from a Modelfile
  ollama show       # Show information for a model
  ollama run        # Run a model
  ollama stop       # Stop a running model
  ollama pull       # Pull a model from a registry
  ollama push       # Push a model to a registry
  ollama list       # List models
  ollama ps         # List running models
  ollama cp         # Copy a model
  ollama rm         # Remove a model
  ollama help       # Help about any command
相关推荐
开发者小天1 天前
python中For Loop的用法
java·服务器·python
flushmeteor1 天前
JDK源码-基础类-String
java·开发语言
毕设源码-钟学长1 天前
【开题答辩全过程】以 基于ssm的空中停车场管理系统为例,包含答辩的问题和答案
java
不愿是过客1 天前
java实战干货——长方法深递归
java
小北方城市网1 天前
Redis 分布式锁高可用实现:从原理到生产级落地
java·前端·javascript·spring boot·redis·分布式·wpf
skywalk81631 天前
使用llama.cpp和ollama推理LFM2.5-1.2B模型
llama·ollama·lfm2.5-1.2b
六义义1 天前
java基础十二
java·数据结构·算法
毕设源码-钟学长1 天前
【开题答辩全过程】以 基于SpringBoot的智能书城推荐系统的设计与实现为例,包含答辩的问题和答案
java·spring boot·后端
笨手笨脚の1 天前
深入理解 Java 虚拟机-03 垃圾收集
java·jvm·垃圾回收·标记清除·标记复制·标记整理
莫问前路漫漫1 天前
WinMerge v2.16.41 中文绿色版深度解析:文件对比与合并的全能工具
java·开发语言·python·jdk·ai编程