Ollama本地安装基础教程

前言

在安装ollama的时候,大家有没有下载了几个AI大模型后,惊讶地发现系统盘空间所剩无几?或者想要将模型文件集中管理,却不知道如何改变默认存储路径?本文,我将手把手教你如何完全掌控Ollama的安装和模型存储位置,让大模型"住"进你指定的文件夹!

一、自定义ollama安装路径

首先,访问 Ollama 官网下载对应操作系统的安装程序。

ollama默认安装在系统盘,当AI模型文件几十GB时,系统盘很快就会被塞满。Ollama虽然安装包不大,但下载的模型文件却相当庞大,所以需要通过自定义安装和存储路径,在ollama安装目录打开cmd,在执行安装得时候制定目录:

等到安装之后,验证是否安装成功

复制代码
ollama --version

如果出现ollama对应版本说明安装成功。

二、创建大模型存储目录

ollama安装完成之后,需要设置大模型环境变量,也就是制定大模型存储得目录。

需要注意的是,设置环境变量之后需要重启ollama,否则不会生效。

接下来就是,安装千问大模型,执行ollama run qwen2.5,如果ollama没有该模型就会去下载,这个需要科学上网。

三、测试大模型

安装完成之后,再次执行ollama run qwen2.5 进入聊天模式,比如输入:你是谁?

至此,自定义ollama安装就已经完成,后面下载的ollama大模型也会存储在我们指定的目录中。

总结

通过自定义Ollama安装路径与模型存储目录,成功解决了大模型占满系统盘空间的痛点。只需设置OLLAMA_MODELS环境变量并重启服务,就能将模型文件定向存储至指定位置,并安装测试千问大模型验证了方案的可行性。这套方法一劳永逸,让本地AI模型管理变得井井有条,为后续探索更多开源模型奠定了清爽、可控的基础。

相关推荐
Nuanyt1 天前
Ollama 国内镜像 安装 + 下载模型 教程
agent·ollama
CODER030410 天前
ubuntu22.04部署完整deepseek局域网web服务全过程(RTX5090安装黑屏+web端多人并发)
pytorch·webui·ubuntu22.04·ollama·deepseek·rtx5090·自然语言模型
福大大架构师每日一题10 天前
agno v3.0.10发布:Azure OpenAI Responses、Elasticsearch、MCP 路由与一批关键稳定性修复全解析
ollama
All for pursuit.13 天前
FastAPI+Ollama 部署本地AI大模型对话助手
python·github·aigc·ollama
bamboolm17 天前
springboot+Ollama整合
java·ollama
虎虎(_ _)。゜zzZ20 天前
零基础本地部署Qwen2.5-7B:从环境准备到模型对话的完整实操
agent·ollama·本地大模型·qwen2.5·离线ai·llm部署
智嵌研习社25 天前
Ollama本地大模型部署实战指南:从环境搭建到生产级API调用全解析
ollama·本地大模型部署
DisonTangor1 个月前
【腾讯混元雪耻归来】 Hy4 preview:770B 参数 MoE 旗舰模型,1M 上下文全面开源
人工智能·算法·开源·aigc·腾讯云·腾讯云ai代码助手
每日出拳老爷子1 个月前
【AI】Ollama 更新后 skipping CUDA 掉回 CPU
gpu·nvidia·cuda·ollama·本地大模型
beyond谚语1 个月前
六、LangChain——StrOutputParser和JsonOutputParser
langchain·rag·ollama