ollama部署模型

一、下载安装ollama

自行选定版本
Download Ollama on Windows

注:Ollama默认安装目录是C盘的用户目录,如果不希望安装在C盘的话,使用下述方法:

在OllamaSetup.exe所在目录打开cmd命令行,然后命令如下:

复制代码
OllamaSetup.exe /DIR=你要安装的目录位置

若采用此方法,windows版环境变量需手动配置:

在你的用户/系统 变量的path 中添加安装路径(ollama.exe的所在路径)即可

安装完成后,还需要配置一个环境变量,更改Ollama下载和部署模型的位置。环境变量如下:

复制代码
OLLAMA_MODELS=你想要保存模型的目录

二、查找部署模型

Ollama Search

在上述网页中搜索需要部署的模型(deepseek-r1为例)

复制这个命令,然后打开一个cmd命令行,运行命令即可,然后你就可以跟本地模型聊天了:

三、Ollama常用命令

复制代码
  ollama serve      # Start ollama
  ollama create     # Create a model from a Modelfile
  ollama show       # Show information for a model
  ollama run        # Run a model
  ollama stop       # Stop a running model
  ollama pull       # Pull a model from a registry
  ollama push       # Push a model to a registry
  ollama list       # List models
  ollama ps         # List running models
  ollama cp         # Copy a model
  ollama rm         # Remove a model
  ollama help       # Help about any command
相关推荐
寻星探路7 小时前
【深度长文】万字攻克网络原理:从 HTTP 报文解构到 HTTPS 终极加密逻辑
java·开发语言·网络·python·http·ai·https
曹牧9 小时前
Spring Boot:如何测试Java Controller中的POST请求?
java·开发语言
爬山算法10 小时前
Hibernate(90)如何在故障注入测试中使用Hibernate?
java·后端·hibernate
kfyty72510 小时前
集成 spring-ai 2.x 实践中遇到的一些问题及解决方案
java·人工智能·spring-ai
猫头虎10 小时前
如何排查并解决项目启动时报错Error encountered while processing: java.io.IOException: closed 的问题
java·开发语言·jvm·spring boot·python·开源·maven
李少兄10 小时前
在 IntelliJ IDEA 中修改 Git 远程仓库地址
java·git·intellij-idea
忆~遂愿10 小时前
ops-cv 算子库深度解析:面向视觉任务的硬件优化与数据布局(NCHW/NHWC)策略
java·大数据·linux·人工智能
小韩学长yyds10 小时前
Java序列化避坑指南:明确这4种场景,再也不盲目实现Serializable
java·序列化
仟濹10 小时前
【Java基础】多态 | 打卡day2
java·开发语言
Re.不晚10 小时前
JAVA进阶之路——无奖问答挑战2
java·开发语言