windows安装使用Ollama

简介

Ollama是时下最容易部署本地大模型的工具了,可以把Ollama比做成docker,用户管理容器,而它是管理大模型

下载安装

点击访问https://ollama.com/download,下载windows版本,下载好后,不要直接点击安装,默认路径是在c盘,占空间,需要自定义安装,将exe文件复制到自定义路径。

打开终端输入

复制代码
.\OllamaSetup.exe /DIR=D:\Ollama


配置model环境变量

打开C:\Users\用户名.ollama目录,复制models目录到自定义安装的目录里,然后删除掉

新建环境变量OLLAMA_MODELS=D:\Ollama\models

环境变量Path里配置Ollama安装路径D:\Ollama

验证

重启Ollama,打开终端输入ollama list,查看大模型资源包是否正常展示。ollama默认安装端口是11434

安装大模型

安装qwen3:4b试试水,终端里输入ollama run qwen3:4b

打开自定义的models文件夹里的blobs,里面就是安装下载的大模型

模型安装成功

相关推荐
Techblog of HaoWANG12 小时前
Ubuntu 下将 Ollama 服务配置为监听 0.0.0.0:11434 完整实践
linux·数据库·ubuntu·ollama
奋斗的源6 天前
Ollama 本地大模型运行指南:从下载到部署
ai·ollama
余槐i6 天前
Ollama 长文档问答后半段全空:context 默认值与静默截断的代价
性能优化·大模型·api·rag·ollama
飞鸟真人9 天前
RAG入门(一)用Qdrant和ollama做一个简单的医学问答软件
rag·ollama·qdrant·医学问答
Guarding and trust10 天前
项目拆解(二):模型输出是‘野‘的——三层兜底+重分析,把AI变成可靠零件
java·人工智能·python·大模型·fastapi·ollama·错误兜底
漂着的圆木13 天前
模型本地沙箱MXC:Copilot Agent工具受限与Ollama发现核对
agent·github copilot·ollama·mxc·工具权限
SatVision炼金士13 天前
DIFY本地部署开源模型配置ollama,提示修改成功却没有加载模型问题解决
开源·dify·本地部署·ollama
更深兼春远14 天前
第3篇:给 Dify 接上大模型——云端 API 与本地 Ollama 两种方式
大模型·dify·ollama·deepseek·apikey
XLYcmy17 天前
Dify 本地部署、Ollama 与 Xinference 集成:踩坑与最佳实践指南
llm·agent·dify·rag·ollama·rerank·harness
Nuanyt21 天前
Ollama 国内镜像 安装 + 下载模型 教程
agent·ollama